El terremoto que ha causado el peligroso modelo de Anthropic, Mythos, ha llevado a sus competidoras a suavizar el golpe de sus nuevos lanzamientos. Google, Microsoft y xAI han acordado dar acceso anticipado al Gobierno de Estados Unidos (EEUU) a sus modelos antes de que sean lanzados al público, según informa Bloomberg.
De esta forma, el Centro para los Estándares e Innovación en IA (CAISI, por sus siglas en inglés) del Departamento de Comercio podrá evaluar los peligros que estos modelos pueden suponer, justo cuando está buscando una respuesta ante las capacidades ofensivas de Mythos.
Las tres compañías se suman a OpenAI y Anthropic, que ya colaboraban con el centro desde 2024. Durante estos dos años el organismo ha completado más de 40 evaluaciones de modelos de IA, incluidos algunos que aún no han salido al mercado.
Este anuncio llega en un momento de especial tensión, ya que Anthropic presentó el mes pasado Mythos, el modelo que es capaz de identificar miles de vulnerabilidades en los principales sistemas operativos y navegadores, y tan sólo en cuestión de semanas.
Sin embargo, el modelo no se ha hecho público aún por el peligro que supone para las empresas que lo usen. Así, lo que dejó a los expertos boquiabiertos fue la capacidad que tuvo de encontrar un fallo de 27 años de antigüedad en OpenBSD y encadenar sistemas que normalmente requieren semanas de trabajo de un equipo de seguridad especializado.
La Casa Blanca, el Tesoro y el director nacional de Ciberseguridad están directamente implicados en los debates sobre qué hacer con él, ya que se podría usar para atacar a compañías si se abre a todos los públicos.
El organismo, creado por Biden en 2023 como Instituto de Seguridad de la IA y relanzado por Trump con otro nombre, se define como el principal punto de contacto del Gobierno con la industria en materia de pruebas de modelos, según informa Bloomberg. Más concretamente, EEUU tiene las compañías de IA más importantes del mundo, que no paran de crecer. Es este escenario el que acelera la actividad del centro.
Pero Trump no deja escapar una oportunidad, y su administración está estudiando lanzar una orden ejecutiva para formalizar la revisión de las herramientas de IA. De esta forma, cualquier anuncio vendría directamente del presidente.
El caso Anthropic complica el cuadro
El acuerdo de evaluación del Departamento de Comercio con Anthropic es, sin embargo, más complejo de lo que ya parece.
Por un lado, la compañía sigue atrapada en dos demandas contra el Pentágono, por ser declarada riesgo para la cadena de suministro tras negarse a permitir el uso de Claude en armas autónomas y vigilancia masiva. El secretario de Defensa Pete Hegseth y Trump han establecido un período de seis meses para que el Gobierno deje de usar las herramientas de Anthropic.
Por otro lado, la paradoja no pasa desapercibida: aunque Mythos está vetado para el público general, ya hay compañías que lo usan. Y ahora el Departamento de Comercio busca evaluarlo con la misma empresa a la que el Pentágono intenta excluir.
Sin duda, tener un arma tan poderosa al alcance podría llevar al Pentágono a dar un paso atrás en las hostilidades con Anthropic y poder utilizar el modelo para la defensa del país.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。