Actualizado
Anthropic tiene un nuevo modelo de inteligencia artificial. Uno que, según la compañía, es tan avanzado y capaz que no va a estar disponible para el público general. Claude Mythos, que es como se conoce internamente, estará sólo disponible para 40 organizaciones y sólo podrán usarlo para tareas de ciberseguridad. El resto tendrá que esperar y no está claro durante cuánto tiempo.
La noticia llega semanas después de que el propio modelo se filtrara por accidente. En marzo, un fallo de configuración en el sistema de gestión de contenidos de Anthropic dejó al descubierto casi 3.000 archivos internos, incluido el borrador de un blog en el que la empresa lo describía como "con diferencia el modelo de IA más potente que hemos desarrollado jamás". Anthropic confirmó la existencia del modelo, habló de un "error humano" y retiró el acceso.
Pero los documentos filtrados revelaban que Mythos no es simplemente una versión mejorada de Claude Opus 4.6, el modelo más avanzado que Anthropic comercializa actualmente. La empresa lo encuadra en una categoría propia que denominó internamente Capybara. Es un nivel superior al Opus, más caro de ejecutar y, según sus propias evaluaciones, cualitativamente diferente.
El problema que presenta, según la compañía, es que es tan eficiente encontrando fallos y vulnerabilidades de software que permite el acceso indiscriminado, según la compañía, sería peligroso. En CyberGym, el principal banco de pruebas para medir la capacidad de un sistema de IA en tareas de análisis de vulnerabilidades, Claude Mythos alcanza el 83,1%. Opus 4.6, que hasta ahora lideraba ese ranking, se quedaba en el 66,6%. Son 16 puntos de diferencia en una métrica que los profesionales de seguridad informática consideran especialmente difícil de escalar.
Logan Graham, responsable del equipo de red team de Anthropic (un grupo interno centrado en estudiar los peligros de los modernos sistemas de inteligencia artificial), describe Mythos como equivalente a un investigador de seguridad muy avanzado. Puede encontrar "decenas de miles de vulnerabilidades" que un experto humano difícilmente detectaría y, a diferencia de modelos anteriores, también es capaz de escribir el código que las aprovechan. Lo hace, ademas, en minutos.
En pruebas internas, Opus 4.6 identificó alrededor de 500 vulnerabilidades conocidas como "de día cero" (desconocidas con anterioridad por los responsables) en software de código abierto. Mythos, durante las semanas de prueba interna, encontró miles de ellas, muchas con una antigüedad de entre diez y veinte años que habían permanecido indetectables.
Para evitar que, al lanzar el modelo al público, miles de aplicaciones críticas de seguridad resulten vulnerables, Anthropic ha decidido limitar el despliegue a un grupo reducido de 40 empresas que sólo podrá usarlo para crear las defensas necesarias en la mayoría de aplicaciones y programas que se usan a diario. Este esfuerzo se conocerá como Project Glasswing y la lista de empresas incluye a doce socios fundacionales de Anthropic: Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia y Palo Alto Networks.
Utilizarán Mythos para analizar sus propios sistemas y el software de código abierto del que dependen, y compartirán sus conclusiones con el resto de la industria. Anthropic aportará hasta 100 millones de dólares en créditos de uso y 4 millones adicionales para organizaciones de seguridad de código abierto como OpenSSF y la Apache Software Foundation.
Dario Amodei, CEO de Anthropic, justificó la decisión no sólo por los problemas que Mythos podría ocasionar, sino porque el resto de la industria no está lejos de tener modelos similares. "Vamos a ver modelos de lenguaje más potentes, nuestros y de otros, y necesitamos un plan para responder a eso", ha explicado en un vídeo publicado junto al anuncio de Project Glasswing.
Anthropic, en consecuencia, no ha fijado una fecha para un lanzamiento público de Mythos. La empresa reconoce que en cualquier caso el modelo es hoy en día "muy caro de ejecutar" y trabajará en mejorar su eficiencia antes de cualquier despliegue general.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。