Dario Amodei, CEO y fundador de Anthropic, lleva años advirtiendo de que la Inteligencia Artificial avanza más rápido que la legislación y la acción de los gobiernos, pero ahora dice que la ventana para poder actuar se está cerrando por lo que reclama acción urgente a los políticos occidentales y una "coalición de democracias" como defensa frente a visiones tiránicas como China.

En un manifiesto titulado "Política ante la IA exponencial", Amodei se muestra contundente y reclama pasar de fase en el sector desde una posición de transparencia voluntaria a una regulación dura y vinculante, con bloqueos de modelos de IA. El creador de Claude o Mythos reclama un tratamiento similar a los aviones o las armas nucleares, aunque advierte de que las consecuencias van más allá. 

Bárbol, el ritmo Ent y los orcos

Amodei abre con una referencia visual al El Señor de los Anillos cuando los hobbits intentan convencer a Bárbol, el pastorárbol, de que actúe con urgencia para frenar a las fuerzas del mal y los orcos, aunque la autoridad del mundo de JRR Tolkien pide respetar los tiempos de los Ents y solo actúa cuando comprueba que todo se está destruyendo. 

La analogía apunta a los parlamentos occidentales frente a la rapidez con la que está actuando regímenes autocráticos como China, Rusia y Corea del Norte: "En los varios años que puede tardar el Congreso en actuar, la IA puede pasar de ser un juguete entretenido a un país completo de genios. La IA pronto será tan capaz que me preocupa que no pueda confiarse con seguridad ni a los gobiernos ni a las empresas, y debe haber controles y equilibrios sobre cada uno".

Marines contra espadachines

Amodei sostiene que la IA "reajusta todo el tablero de juego" geopolítico de forma comparable a las armas nucleares, "pero potencialmente incluso más". Una nación con IA poderosa frente a otra sin ella, o con tres años de retraso, "podría ser el equivalente de un ejército de marines de la Segunda Guerra Mundial frente a un ejército de espadachines medievales".

Su propuesta es una coalición de democracias que comparta chips y equipos de fabricación de semiconductores, coordine controles de exportación y construya capacidades de defensa conjunta. La pertenencia exigiría rechazar "la tiranía de alta tecnología ultra-represiva impulsada por IA" y adoptar salvaguardas equivalentes a las descritas en la sección de libertades civiles.

Amodei dedica una sección entera al riesgo de que la IA se convierta en "la herramienta definitiva de la autocracia". Pone como ejemplo un ejército de drones autónomo podría "obedecer órdenes ilegales y permitir a los gobiernos atrincherarse en el poder". 

Una IA de vigilancia podría "analizar información ampliamente disponible a escala masiva e inferir los detalles más íntimos de la vida de cada ciudadano", advierte el creador de Claude y Mythos. 

Sus propuestas incluyen prohibir el uso doméstico de armas autónomas y garantizar que cualquier ciudadano sometido a acción gubernamental adversa tenga acceso a "IA al menos tan capaz como la que el Gobierno tiene permitido usar en esa acción concreta".

"La IA pronto será tan capaz que me preocupa que no pueda confiarse con seguridad ni a los gobiernos ni a las empresas, y debe haber controles y equilibrios sobre cada uno", apunta Amodei, que augura también de la llegada de los riesgos biológicos más allá de los de ciberseguridad de las empresas.

"Hipercrecimiento e hiperdesigualdad"

La reflexión de "Corremos el riesgo de terminar en un mundo donde el equilibrio económico se estanca en el hipercrecimiento y la hiperdesigualdad, y es potencialmente muy difícil revertirlo. El desafío clave en un mundo así no será incentivar el crecimiento, sino encontrar la manera de que todos compartan los beneficios", señala Amodei en su larga reflexión.

"La capacidad iterativa de la IA para crear una IA aún mejor podría potenciar aún más ese crecimiento. Pero, por las mismas razones, la IA también podría actuar como un sustituto económico más general de las capacidades cognitivas humanas que las tecnologías anteriores, a la vez que transforma la economía mucho más rápidamente", añade.

Amodei niega estar haciendo de la voz agorera del sector de la IA como muchos le han tachado, sino que distingue con realismo entre lo deseable y lo probable. "He advertido sobre el desplazamiento laboral en entrevistas y ensayos porque quiero que tanto los responsables políticos como el sector privado tengan la mejor oportunidad de adaptarse y responder, no porque esté intentando ser un 'profeta del apocalipsis'", añáde.

Su receta es comprar tiempo mediante complementos de salario para quienes acepten empleos peor pagados, incentivos fiscales a la retención de plantilla y estadísticas gubernamentales que midan el impacto en tiempo real. Si el desplazamiento resulta estructural, propone renta básica universal financiada con impuestos sobre las empresas beneficiarias. "El crecimiento económico rápido debería crear la base fiscal para una prosperidad compartida", sostiene.