Anthropic ha obtenido la aprobación de Estados Unidos para restablecer cierto acceso a su potente modelo de IA Mythos 5, tras resolver las preocupaciones de la administración Trump sobre las posibles amenazas que esta tecnología representa para la seguridad nacional.
"Anthropic ha colaborado con el gobierno estadounidense para abordar los riesgos asociados con los modelos protegidos", escribió el secretario de Comercio, Howard Lutnick, al director de computación de la empresa en una carta a la que tuvo acceso Bloomberg News. "Estos esfuerzos han dado como resultado un progreso significativo", añadió, indicando que el modelo podría ser entregado a "ciertos socios de confianza".
La autorización alivia la confrontación que estalló hace dos semanas cuando el gobierno prohibió abruptamente a Anthropic dar acceso a ciudadanos extranjeros a Mythos 5 y a un modelo relacionado, Fable 5, por temor a que se pudieran eludir las medidas de seguridad. La orden llevó a la empresa a desactivar todo el acceso global a los dos sistemas avanzados y desencadenó intensas negociaciones para encontrar una solución.
"En tan solo dos semanas, hemos trabajado diligentemente para garantizar que Estados Unidos siga siendo el líder mundial en IA, al tiempo que salvaguardamos nuestra seguridad", declaró Benno Kass, portavoz del Departamento de Comercio.
La carta del Departamento de Comercio, fechada el viernes, no menciona ningún cambio en sus restricciones sobre el uso del modelo Fable 5.
"Hemos recibido notificación del gobierno estadounidense de que Mythos 5 puede volver a implementarse para un pequeño grupo de expertos en ciberseguridad y proveedores de infraestructura", declaró Anthropic en un comunicado. "Estamos trabajando para habilitar el conjunto de proveedores aprobados y restablecer su acceso a Mythos 5 lo antes posible. Nos complace ver este progreso y seguimos colaborando con el gobierno para ampliar el acceso a Mythos 5 y que Fable 5 vuelva a estar disponible para uso general".
No está claro qué medidas tuvo que tomar Anthropic para disipar las preocupaciones del gobierno sobre la posibilidad de eludir las medidas de seguridad de los modelos avanzados. La company espera continuar las conversaciones con el gobierno durante el fin de semana, ya que su objetivo es restablecer pronto el acceso a Fable 5, según una persona familiarizada con el asunto que prefirió permanecer en el anonimato debido a la confidencialidad de las conversaciones.
La empresa también está colaborando con el gobierno para elaborar un marco normativo que permita abordar este tipo de situaciones en el futuro, según indicó la fuente.
Anthropic había manifestado su desacuerdo con la decisión del gobierno de imponer controles a las exportaciones en una publicación de blog donde anunciaba la desactivación de ambos sistemas. «Si esta norma se aplicara a toda la industria, creemos que paralizaría prácticamente todos los despliegues de nuevos modelos para todos los proveedores de modelos de vanguardia».
En esa publicación, Anthropic advirtió que cree que "no es posible una resistencia perfecta al jailbreak para ningún proveedor de modelos".
La decisión del gobierno de restringir la disponibilidad de los modelos de Anthropic también tuvo repercusiones en toda la industria de la IA, en particular en la startup rival OpenAI, que limitó el lanzamiento de un nuevo y potente modelo de IA —GPT-5.6— bajo la presión de la administración Trump. OpenAI anunció el viernes que lanzaría una versión preliminar para socios seleccionados que contaran con la aprobación del gobierno estadounidense, antes de ampliar su disponibilidad en las próximas semanas, a petición de la administración.
El enfrentamiento por Mythos 5 y Fable 5 marcó el último choque entre Anthropic y la administración Trump. Anthropic lleva meses inmersa en una disputa con el Pentágono por las salvaguardias adicionales que la empresa con sede en San Francisco exigía para el uso militar de sus herramientas de IA. Tras el fracaso de las negociaciones contractuales, el Departamento de Defensa declaró a la empresa un riesgo para la cadena de suministro en marzo y está buscando otros proveedores de IA para las fuerzas armadas.
Anthropic, una empresa privada que desde hace tiempo se ha posicionado como un desarrollador de IA más responsable que sus rivales, compartió por primera vez su modelo Mythos en abril con un grupo limitado de empresas e instituciones, advirtiendo que su capacidad para encontrar vulnerabilidades de ciberseguridad hacía que su distribución más amplia fuera demasiado arriesgada.
A principios de este mes, la compañía lanzó Fable 5, la primera versión pública de su modelo Mythos, pero con restricciones para limitar el alcance de sus capacidades cibernéticas. Fable 5 no puede responder a ciertos tipos de consultas, incluidas las relacionadas con la ciberseguridad y la biología. En esos casos, Anthropic ha indicado que su chatbot Claude redirigirá las respuestas a través de un modelo diferente, llamado Opus 4.8.
Al seguir restringiendo el modelo Fable 5, el gobierno federal indicó que sigue mostrándose receloso ante la idea de que la tecnología que hay detrás de estos modelos esté ampliamente disponible, incluso con las limitaciones que Anthropic añadió antes de su lanzamiento general.
Mythos 5, una versión de Fable 5 sin algunas de las medidas de seguridad, estaba previsto que se lanzara a un grupo más reducido de instituciones con fines de ciberseguridad, mediante una iniciativa exclusiva por invitación llamada Proyecto Glasswing. A principios de este mes, unas 200 empresas tenían acceso a Mythos a través de este programa, entre ellas Apple Inc., Google (de Alphabet Inc.), Cisco Systems Inc., Nvidia Corp. y Microsoft Corp.
La orden de prohibir los últimos modelos de Anthropic representó la intervención más significativa del gobierno estadounidense hasta la fecha en las operaciones de una empresa de inteligencia artificial, y puso de relieve las crecientes preocupaciones en torno a la seguridad de los modelos de vanguardia. Esto supuso un nuevo desafío para Anthropic semanas después de que la compañía presentara confidencialmente su solicitud para una oferta pública inicial, con una valoración que superaba los 900.000 millones de dólares.
Las recientes negociaciones involucraron a altos ejecutivos de Anthropic, incluido el cofundador Tom Brown, quien se reunió con Lutnick y otros altos funcionarios de la administración en los últimos días, según informaron a Bloomberg personas familiarizadas con las conversaciones. Funcionarios estadounidenses le comunicaron a Anthropic que las restricciones se levantarían una vez que se resolvieran las preocupaciones de seguridad del gobierno, indicaron las fuentes, que hablaron bajo condición de anonimato debido a que las conversaciones no eran públicas.
Según fuentes cercanas, en las conversaciones con el Departamento de Comercio sobre Fable 5 y Mythos 5, el director ejecutivo de Anthropic, Dario Amodei, adoptó un papel de no intervención, lo que ayudó a reducir la fricción entre ambas partes.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。