La compañía afirma haber detectado a un grupo criminal que utilizó un modelo de lenguaje para explotar un fallo de seguridad antes de que causara daño. El incidente llega semanas después de que Anthropic anunciara su nuevo modelo Mythos
Actualizado
John Hultquist, analista jefe del equipo de inteligencia de amenazas de Google, anunció ayer lunes un escenario que los expertos en ciberseguridad llevan años temiendo: un grupo de hackers ha utilizado herraminetas de inteligencia artificial para encontrar y explotar vulnerabilidades hasta ahora desconocidas en sistemas informáticos.
El equipo de Google frenó hace unas semanas intento de aprovechar un fallo de seguridad en una herramienta popular de administración de sistemas. La compañía no ha revelado el nombre de la herramienta ni el de sus atacantes, pero sí que al rastrear los pasos de los hackers, encontró evidencias de que habían usado un modelo de lenguaje para descubrir el fallo.
La vulnerabilidad permitía saltarse la autenticación de doble factor en la herramienta. Google clasificó el ataque como un zero-day, es decir, un ataque que aprovecha un agujero de seguridad que los ingenieros de la empresa afectada desconocían y para el que, por tanto, no existía ningún parche. La compañía notificó a la empresa y a las fuerzas de seguridad, y afirma haber logrado interrumpir la operación antes de que causara daño alguno.
No hay indicios de que el ataque estuviera vinculado a ningún gobierno, aunque Google ha señalado que grupos ligados a China y Corea del Norte ya llevan tiempo explorando técnicas similares. Según Hultquist, tampoco es probable que este sea el único caso. "Por cada zero day que podemos rastrear hasta la IA, probablemente haya muchos más ya liberados", explica.
El incidente llega en un momento especialmente tenso para la industria. Hace aproximadamente un mes, Anthropic anunció un nuevo modelo llamado Mythos que describió como "sorprendentemente capaz" en tareas de hacking y ciberseguridad. Tan capaz, de hecho, que la compañía decidió no lanzarlo al público general y restringir su acceso a un grupo selecto de organizaciones de confianza.
OpenAI también ha presentado recientemente una versión especializada en ciberseguridad de ChatGPT, disponible únicamente para "responsables de la seguridad de infraestructuras críticas", con el objetivo de ayudarles a encontrar y corregir vulnerabilidades en su código.