Anthropic y funcionarios de la administración Trump se han reunido en las últimas horas después de que el gobierno de EEUU prohibiera la exportación del último modelo de IA de la startup liderada por Dario Amodei el pasado viernes, según ha adelantado POLITICO.
Las reuniones se encuentran en la primera fase, y es probable que se tarde unos días en llegar a un acuerdo que flexibilice la medida adoptada por el gobierno federal el viernes. Esta decisión, prohibía a Anthropic permitir el acceso de usuarios no estadounidenses a su modelo más reciente debido a posibles vulnerabilidades de seguridad, según declaró un alto funcionario de la Casa Blanca. Sin embargo, el funcionario dejó abierta la posibilidad de que se pueda resolver rápidamente. "Eso depende de Anthropic", dijo el funcionario.
La startup de IA envió a Washington a altos directivos con experiencia en investigación y seguridad tras varias llamadas de varias horas entre el cofundador de Anthropic, Tom Brown, el secretario de Comercio, Howard Lutnick, y el director nacional de ciberseguridad, Sean Cairncross, según varios funcionarios que prefieren mantener el anonimato para describir. La directora de políticas públicas de Anthropic, Sarah Heck, también estuvo presente en esas llamadas.
Las reuniones presenciales del lunes, organizadas por el Departamento de Comercio y la oficina de Cairncross, fueron de carácter más técnico y estuvieron dirigidas por personal, incluido Chris Fall, quien dirige el Centro de Estándares e Innovación de IA del Departamento de Comercio, según informó una persona familiarizada con este asunto.
Según un funcionario de la administración, Anthropic realizó una presentación ante funcionarios del gobierno, explicando las medidas de ciberseguridad de la empresa con la esperanza de superar las restricciones.
Entre los representantes de Anthropic se encontraban Logan Graham, quien evalúa y somete a pruebas de estrés los modelos como parte del equipo Frontier Red Team de la compañía; Dave Orr, jefe de medidas de seguridad de la empresa; y Nicholas Carlini, su investigador principal de seguridad, según una persona cercana a Anthropic.
La restricción a las exportaciones representó la escalada más significativa hasta la fecha en los intentos del gobierno por regular la industria de la IA, que se desarrolla más rápido que la infraestructura gubernamental en torno a esta tecnología revolucionaria. También fue la primera vez que la Casa Blanca obligó a una empresa a retirar un modelo del acceso público, pero solo el último de una serie de enfrentamientos entre el gobierno y Anthropic sobre las restricciones éticas a los riesgos potencialmente catastróficos de la IA.
Anthropic ha defendido sus medidas de seguridad desde que se impusieron las restricciones el viernes por la noche. "Todas estas vulnerabilidades parecen relativamente sencillas, y hemos descubierto que otros modelos disponibles públicamente también son capaces de detectarlas sin necesidad de sortearlas", se indicaba en una publicación de blog.
El secretario del Tesoro, Scott Bessent, quien desempeñó un papel destacado en las conversaciones con el director ejecutivo de Anthropic, Dario Amodei, antes de que la administración implementara las restricciones a las exportaciones, tuvo una participación menor durante el fin de semana, y el Tesoro no participó en las reuniones presenciales del lunes.
Según una persona familiarizada con las conversaciones, Lutnick fue designado por el presidente y su participación se intensificó durante el fin de semana debido a su labor de supervisión de la política de exportaciones del país. Tanto Lutnick como Bessent viajaron en el Air Force One con el presidente a Francia para las reuniones del G7 que se celebraron de lunes a miércoles.
El control de exportaciones, que prohibía a Anthropic permitir que ciudadanos extranjeros utilizaran su último modelo, el Fable 5, obligó a la empresa a retirar completamente el modelo para cumplir con la normativa, según informó la compañía el viernes por la noche.
La escalada de tensiones se produjo tras un desacuerdo entre Anthropic y la administración sobre una supuesta preocupación de seguridad relacionada con Fable, que Amazon, un inversor clave en Anthropic, había planteado a la Casa Blanca a finales de la semana pasada, como informó previamente POLITICO.
Amazon informó haber encontrado una manera de sortear las medidas de seguridad de Anthropic en Fable, un modelo largamente esperado diseñado para ser menos potente que el modelo altamente avanzado de la compañía, Mythos . Anthropic solo ha permitido el acceso a Mythos a un grupo selecto de empresas debido a su capacidad para explotar vulnerabilidades cibernéticas más rápido que cualquier ser humano.
Fable ofrecía un rendimiento similar al de Mythos, pero contaba con medidas de seguridad integradas para evitar que los usuarios lo incitaran a realizar un ciberataque o a detallar cómo crear un arma biológica, según declaró la compañía. El descubrimiento de Amazon, que llegó a oídos de la Casa Blanca y la Agencia de Seguridad Nacional, llevó a Cairncross, Bessent y otros a exigir que Anthropic suspendiera el acceso a Fable.
Cuando Anthropic no estuvo de acuerdo, argumentando en cambio que la brecha de seguridad era menor y no una supuesta "fuga de accesos" mayor que permitiría a la gente usarla para ciberataques, la administración impuso un control de exportaciones que, según la empresa, la obligó a tomar esa decisión.
Durante el fin de semana, un grupo de casi 80 expertos técnicos y directores ejecutivos escribieron una carta abierta a la administración instando a los funcionarios a revocar el control de exportaciones. Afirmaron que las acciones que los investigadores de Amazon habían logrado que Fable llevara a cabo eran una "capacidad necesaria en cualquier modelo que pretenda escribir código seguro" y "no deberían considerarse una capacidad ofensiva".
Los controles abruptos de la administración Trump han "arrebatado los mejores modelos a los defensores, creado incertidumbre en el mercado y puesto en riesgo el liderazgo de Estados Unidos en IA sin ningún riesgo real que lo justifique", escribieron los líderes tecnológicos en la carta.
Graham, uno de los empleados de Anthropic que asistía a las reuniones con la administración, había declarado a Fox News en abril que Anthropic buscaba un equilibrio delicado al dar acceso a Mythos a los defensores "sin que los actores malintencionados tuvieran acceso". "En definitiva, creemos que herramientas como esta deben implementarse a nivel mundial de forma segura, porque necesitamos que todo el mundo las utilice para defenderse", añadió Graham. La entrevista tuvo lugar antes del lanzamiento de Fable .
Algunos miembros de la comunidad tecnológica han defendido las estrictas restricciones a la exportación y han afirmado que el incumplimiento de las salvaguardias conlleva riesgos graves. Sin embargo, otros expertos en IA, e incluso funcionarios de la administración, han señalado que estos controles crean un panorama regulatorio amenazante que perjudicará al sector.
"La IA ya cuenta con licencia, pero los requisitos cambian constantemente y siempre son un secreto, incluso para la propia administración, que irá descubriendo las reglas espontáneamente en tiempo real a medida que reaccione a los acontecimientos", escribió Dean Ball, un exfuncionario de la administración Trump que trabajó en políticas de IA, en X.
Un funcionario de la administración actual advirtió que cuanto más se prolongue la disputa sobre las exportaciones, más probable será que se convierta en un régimen de licencias de facto con el que las empresas de IA tengan que lidiar al lanzar nuevos modelos, lo que ralentizará su innovación y su competencia con China.
Si el control de exportaciones no se reduce a una simple "reprimenda" que se solucione rápidamente, "será un gran problema para toda la industria", dijo el funcionario de la administración. "Esto significa que, a partir de ahora, cada modelo deberá solicitar permiso al gobierno para su lanzamiento. Es una situación sumamente grave", declaró el funcionario.
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。