El Papa ha publicado su primera encíclica, Magnífica humanidad (Magnifica humanitas), un documento centrado en los algoritmos, la inteligencia artificial y una nueva sociedad marcada por la tecnología. León XIV advierte sobre el uso de la IA en el ámbito militar y pide que esta tecnología “permanezca bajo un control humano efectivo", mostrando su clara oposición a los sistemas autónomos letales.

Uno de los debates más populares en el uso de la IA en el sector militar es su uso para sistemas autónomos letales, los conocidos como robots asesinos. El sector europeo suele coincidir en que su uso siempre debe estar bajo el mando y control de un ser humano, de un oficial militar, y que la capacidad de decisión no debe poder tomarla la máquina sin una orden explícita de un militar.

La IA en el ámbito bélico llega a los ejércitos para acortar tiempos, mejorar capacidades, evitar sobreesfuerzos y, en principio, hacer las operaciones más seguras. No obstante, todavía queda un paso importante en normativa y regulación de la misma.

Ahora, el Papa, en su encíclica, ha puesto el énfasis en la IA militar. No en vano, le ha dedicado, en el quinto capítulo, un extenso texto en el que destaca que “los últimos 60 años han estado marcados por conflictos de una ferocidad impresionante”, y desgrana el uso de la inteligencia artificial con fines bélicos: “La creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más ‘viable’ y menos sujeta al control humano”.

“El desarrollo y el uso de la IA en el ámbito bélico deben estar sujetos a las restricciones éticas más rigurosas, y al respeto de la dignidad humana y de la sacralidad de la vida, evitando una carrera armamentista”, señala león XIV. “La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos”.

“A veces se habla de “agentes morales artificiales”, como si una máquina pudiera garantizar, con mayor coherencia que un ser humano, la distinción entre el bien y el mal. Pero el juicio moral no se puede reducir a un cálculo: implica conciencia, responsabilidad personal y reconocimiento del otro como persona. Por eso no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles. No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable”, añade.

El sumo pontífice también habla de que la IA sirve para acortar los tiempos de decisión, pero él no lo ve como una mejora. “En la guerra, las decisiones irreversibles no pueden tener como criterios supremos la rapidez y la eficiencia”, afirma. Además, alerta del peligro de confundir a combatientes con civiles: “Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto. La selección de objetivos y el uso de la fuerza no pueden confundir a combatientes y no combatientes, ni ignorar el impacto sobre las poblaciones indefensas”.

En este contexto, defiende la necesidad de que la IA militar estñe conrolada por humanos. “La decisión de emplear la fuerza letal no puede delegarse en procesos turbios o automatizados, sino que debe permanecer bajo un control humano efectivo, consciente y responsable. Es necesario establecer reglas compartidas, incluso a nivel internacional, que frenen la carrera armamentística tecnológica y aseguren una protección especial a los civiles y a las infraestructuras esenciales para su supervivencia”.

Carga contra la industria de Defensa

En el documento, el Papa también dedica unas líneas a la industria armamentística. “Un elemento decisivo del panorama actual es el crecimiento de la industria bélica, que se ha convertido en un sector clave de la economía de algunos países. La estrecha conexión entre los intereses económicos, los aparatos militares y las decisiones políticas genera una ‘nación armada’, en la que la guerra parece casi una prolongación natural de la política y el mercado de las armas se convierte en un motor autónomo de las decisiones bélicas”.

“No podemos ignorar los enormes intereses económicos que están detrás de la guerra. Las industrias armamentísticas y los países que suministran armas se benefician de un mercado que prospera precisamente gracias a los conflictos. En este sentido, existe también una lógica económica que contribuye a alimentar tensiones en diversas regiones del mundo”, sentencia.