El papa León XIV afirmó que la inteligencia artificial debería ser "desarmada" para proteger a la humanidad de sus peligros, sumándose así a un acalorado debate sobre hasta qué punto los gobiernos deberían regular una tecnología que está transformando el mundo.

En un discurso histórico dirigido a la Iglesia Católica, el Papa pidió que la IA fuera más "amigable con los humanos" y se liberara del control monopólico, dejando de utilizarla para lograr ventajas geopolíticas o comerciales.

«Desarmar significa desacreditar la premisa de que el poder técnico confiere automáticamente el derecho a gobernar», afirmó el papa el lunes en su nueva encíclica a los fieles. «Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad».

Al pronunciarse tan públicamente sobre la necesidad de proteger a los seres humanos en la era de la IA, el primer papa estadounidense de la historia se ha puesto potencialmente en rumbo de colisión con el presidente estadounidense Donald Trump, quien favorece la desregulación de esta tecnología en rápida evolución para mantener una ventaja competitiva frente a China.

El papa, de 70 años, se suma al acalorado debate sobre hasta qué punto deben limitarse los modelos de IA, ante el temor de que puedan causar estragos en el sistema bancario, seleccionar objetivos para ataques militares y, finalmente, reemplazar a los humanos en amplios ámbitos de la toma de decisiones.

La publicación del documento titulado Magnifica humanitas , que significa «magnífica humanidad» en latín, marca el acto más trascendental del pontífice desde que asumió el liderazgo de los 1.400 millones de católicos del mundo hace un año. Las encíclicas, como se conocen estas cartas, son una forma que tienen los papas de brindar orientación moral sobre los mayores desafíos de su tiempo, incluyendo temas candentes como el cambio climático y la migración.

Leo, matemático de formación, también advirtió específicamente sobre los peligros de usar la informática en la guerra y perder de vista las consideraciones morales, diciendo que "ningún algoritmo puede hacer que la guerra sea moralmente aceptable".

"La IA no elimina la inhumanidad intrínseca del conflicto; de hecho, solo puede acelerarlo y hacerlo más impersonal", afirmó el Papa. Advirtió sobre la posibilidad de que algunos "consideren el conflicto armado como una forma eficaz de desviar la atención de los problemas internos y una herramienta cínica para gestionar las dificultades".

Sus declaraciones se producen en un momento en que la presentación de Mythos, una herramienta de inteligencia artificial de Anthropic PBC capaz de identificar fallos desconocidos en los sistemas informáticos, ha generado ansiedad en todo el mundo durante los últimos meses.

Al alertar sobre los riesgos de la IA no regulada, resulta significativo que el Vaticano invitara a Christopher Olah, cofundador de Anthropic y experto en aprendizaje automático. El creador del popular chatbot Claude ha tenido discrepancias con la administración Trump sobre el uso de su tecnología para la guerra y la vigilancia.

El vicepresidente JD Vance, un converso al catolicismo cercano al multimillonario de Silicon Valley Peter Thiel —uno de los primeros inversores de OpenAI—, dejó entrever la creciente tensión. Recientemente, Leo y Trump se enfrentaron por la oposición del papa a la guerra en Irán.

"Creo que cuando el líder de la denominación cristiana más grande del mundo habla sobre un tema como ese, sin duda tendrá cierta influencia, y estoy seguro de que contendrá muchas reflexiones", dijo Vance en una rueda de prensa el 19 de mayo. "Con algunas de ellas probablemente estaré de acuerdo, con otras tal vez no".

La Iglesia Católica Romana ha manifestado cada vez con mayor firmeza su preocupación por la IA, argumentando que requiere normas para proteger la dignidad humana y el bien común.

Para Leo, su clara inspiración es el papa León XIII, quien guió a la Iglesia durante la primera revolución industrial y escribió la encíclica Rerum Novarum . El actual papa no solo eligió el nombre de Leo para honrar a su predecesor del siglo XIX, sino que establece una conexión directa entre la disrupción que la producción en masa impulsada por máquinas provocó en los trabajadores de entonces y lo que la IA está haciendo hoy en día.

El Papa "quiere asegurarse de que lo que suceda con la IA no se base únicamente en la economía, ni en lo ricos que puedan llegar a ser un grupo de multimillonarios, y que existan límites en su uso de la IA", declaró el padre Thomas Reese, analista sénior y erudito católico, en una entrevista.

Leer más: Las objeciones religiosas a la IA en el ámbito laboral surgen como una nueva preocupación para los empleadores.

Desde informes sobre chatbots que incitan a los usuarios al suicidio hasta predicciones apocalípticas de desempleo masivo, el tema de la IA genera controversia y emociones encontradas. Sin embargo, el estilo de Leo es más sobrio que el del Papa Francisco, quien en 2024 pronunció un discurso histórico ante los líderes del G7, advirtiéndoles que no perdieran el control de la IA.

"Hoy, entre los bienes que están destinados universalmente a todos, debemos incluir también nuevas formas de propiedad, como patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas y datos", escribió el Papa.

El peligro, afirma, reside en que la tecnología "empiece a dictar lo que importa y lo que se puede descartar", reduciendo a "los seres humanos a meros engranajes de un sistema impulsado hacia una eficiencia cada vez mayor".