Cientos de investigadores de inteligencia artificial (IA) en Google han firmado una carta en la que piden al CEO, Sundar Pichai, que se niegue a poner los sistemas a disposición de proyectos militares. Este movimiento sigue al que comenzó Anthropic contra el uso de su tecnología para el Departamento de Defensa de Estados Unidos (EE. UU.).

Los organizadores señalaron que la carta ha reunido más de 580 firmas y será enviada a Pichai el lunes. "Somos empleados de Google profundamente preocupados por las negociaciones en curso entre Google y el Departamento de Defensa de Estados Unidos", expone la carta.

"Como personas que trabajamos en IA, sabemos que estos sistemas pueden centralizar el poder y que cometen errores."

El movimiento anti-Pentágono

La carta de protesta llega poco después de un conflicto legal entre el Pentágono y Anthropic sobre el uso de la IA en aplicaciones militares. El Pentágono busca excluir a Anthropic y su herramienta de IA Claude de las cadenas de suministro de la defensa estadounidense, y tantea a nuevos socios entre las grandes tecnológicas.

Así pues, este movimiento representa un nuevo intento por parte de empleados de Silicon Valley de frenar el uso de la IA y los riesgos asociados a estas herramientas en entornos de seguridad nacional clasificados. El Pentágono pretende invertir miles de millones de dólares en ampliar el uso militar de la IA y desarrollar armas autónomas.

Google ya lanzó un aviso

Cabe mencionar que los empleados de Google fueron de los primeros en alertar sobre los riesgos del uso de la IA en la guerra en 2018 y en presionar a la compañía para que limitara su trabajo con la defensa. Sin embargo, los vínculos de la empresa con la industria de defensa estadounidense se han restablecido en los últimos años, y la compañía ha suavizado sus propias líneas rojas en materia de IA.

Esta alerta marcó un momento de máxima tensión entre el Pentágono y Silicon Valley. "Queremos que la IA beneficie a la humanidad, no que se utilice de formas inhumanas o extremadamente dañinas. Esto incluye las armas letales autónomas y la vigilancia masiva, pero va más allá", señala la carta.

"Actualmente, la única forma de garantizar que Google no quede asociado a ese tipo de daños es rechazar cualquier carga de trabajo clasificada. De lo contrario, esos usos podrían producirse sin nuestro conocimiento ni la posibilidad de detenerlos."

Sofia Liguori, ingeniera de investigación en IA en Google DeepMind en el Reino Unido, ha querido afirmar que ha firmado la carta porque considera que Google no ha debatido con sus empleados ninguna línea roja concreta sobre el uso de su IA en redes clasificadas o de otro tipo. 

En los últimos años, Google ha estrechado sus lazos con el Pentágono. En marzo, por ejemplo, la compañía puso a disposición de los tres millones de empleados del Pentágono sus agentes de IA Gemini a nivel no clasificado, tras haber habilitado previamente su chatbot Gemini en diciembre.

Sin embargo, el Pentágono considera que las compañías no tienen ni voz ni voto en momentos de guerra, donde todo desarrollo tecnológico supone una gran ventaja en el campo de batalla.