Mucho se está hablando de Claude Mythos, el nuevo modelo de inteligencia artificial (IA) de Anthropic desarrollado para ayudar en la seguridad defensiva. La propia empresa de Dario Amodei paró su comercialización masiva por lo peligrosa que podía llegar a ser en malas manos, como avisan los expertos a Business Insider España. Ahora un nuevo estudio asegura que tiene la capacidad de atacar de manera autónoma a empresas pequeñas que cuentan con protecciones débiles.

Claude Mythos es un modelo de Anthropic diseñado para detectar vulnerabilidades de alta gravedad en los principales sistemas operativos y navegadores web, con el que la compañía pretende "transformar la ciberseguridad".

El Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), perteneciente al Departamento de Ciencia, Innovación y Tecnología del gobierno del Reino Unido, ha puesto a prueba las capacidades de este modelo, aprovechando su disponibilidad en vista previa, con evaluaciones controladas que incluyeron sondeos basados en chat, desafíos de captura de bandera y simulaciones de ciberataques de múltiples pasos.

En ellas, "observamos que podía descubrir y explotar vulnerabilidades de forma autónoma, tareas que requerirían días de trabajo para los profesionales humanos", indican desde AISI en una publicación compartida en su blog.

Asimismo, señalan que las capacidades de Claude Mythos permitirían atacar de manera autónoma a pequeñas empresas que no cuentan con sistemas de defensa sólidos, pero no llegan a afirmar que el modelo sea capaz de atacar sistemas "bien protegidos".

Esto se debe principalmente a que que reconocen que hay diferencias entre los entornos de evaluación, sin características de seguridad ni penalizaciones, y los entornos reales, lo que ha llevado a AISI a decidir que en evaluaciones futuras se utilizarán "campos de pruebas que simulen entornos reforzados y protegidos", para poder evaluar correctamente las capacidades de los modelos más avanzados.

Qué es Mythos

Claude Mythos Preview es un modelo de Inteligencia Artificial de propósito general que, según Anthropic, supera significativamente a las versiones anteriores en diversas pruebas comparativas, incluyendo codificación y razonamiento. La compañía afirma que es tan potente que ha decidido no lanzarlo al público. Explicaron que algunos modelos de IA han alcanzado un nivel de capacidad de codificación que les permite superar a casi todos los humanos, excepto a los más expertos, en la detección y explotación de vulnerabilidades de software.