El CEO de Anthropic lleva meses avisando del peligro de la IA y pidiendo más control. Ahora que su Gobierno considera que el riesgo son sus productos no está tan contento con sus deseos
El CEO de Anthropic, Dario AmodeiAP Photo
Actualizado
Estados Unidos dio un giro de 180 grados en su gestión de la IA el pasado fin de semana y tiró de freno de mano con el último modelo de Anthropic. La compañía había puesto en el mercado su producto más avanzado hasta la fecha Fable, que permitía tener capacidades similares al famoso Mythos en todo excepto la ciberseguridad, el elemento donde este es potente hasta un punto que encendió la alarma roja global. Sin embargo, un fallo que se saltaba estos límites hizo que Washington tomara una decisión sin precedentes y prohibiera usar esta tecnología a todo aquel queno fuera estadounidense.
El resultado final es que, casi una semana después del choque con el Gobierno, el modelo no está disponible para nadie, ya que Anthropic no tiene capacidad para saber si quien la utiliza es extranjero o no. De hecho, la compañía se queja de que ni sus propios trabajadores nacidos fuera de Estados Unidos pueden usar Fable, lo que ralentiza la corrección de los fallos detectados y tilda de desmesurada la reacción de la administración.
La lectura desde Europa vuelve a ser la indefensión y dependencia del continente ante la falta de acceso a una tecnología de esta potencia propia. Más allá del lamento, el movimiento sigue siendo escaso. Lo sucedido podría dejar una lección positiva y hacer pensar que la tesis europea de que la IA necesita una ley es correcta, la realidad es otra. Cuando Estados Unidos ha querido retirar una IA que consideraba peligrosa no ha necesitado más que usar instrumentos existentes para otros productos sin necesidad de crear un complejo marco legal. Además, ha actuado rápidamente, capacidad escasa en Bruselas.
Con todo, la maniobra de Washington tiene implicaciones más profundas. La voluntad del Gobierno de Trump es que no se vuelva a lanzar esta IA hasta que esté exenta de cualquier posible puerta trasera que desbloquee los ciberataques. La lectura en la industria es que eso puede que no sea posible. Cada chatbot que llega al mercado acaba siendo hackeado de una manera u otra. La justificación de las empresas de IA suele ser similar a la de los vendedores de armas, es decir, no responsabilizarse si alguien usa mal su producto. Ahora no es suficiente y puede que no veamos una nueva IA en un tiempo. Tres días antes del incidente, el CEO de Anthropic pedía más control sobre la IA. Hay que tener cuidado con lo que se desea.