El avance de la inteligencia artificial (IA) nos obliga a cuestionarnos acerca de nuestra propia humanidad. La lección más importante que me llevo de la nueva encíclica de León XIV, Magnifica Humanitas es que es indispensable responder qué significa el ser humano para poder entender realmente a la IA y gobernarla para el bien de las personas.
Pensar con detenimiento acerca de la IA y sus implicaciones sociales y económicas nos guía naturalmente a pensar en nuestra naturaleza. Las aparentes similitudes entre el funcionamiento de la IA y el razonamiento humano y entre la interacción con los grandes modelos de lenguaje como ChatGPT y Claude y la interacción con otras personas nos obliga a reflexionar acerca de nuestro lugar en el mundo en la era de la inteligencia artificial.
Melanie Mitchell en su espléndido libro Artificial Intelligence. A Guide for Thinking Humans describe una reunión que tuvieron un grupo selecto de investigadores de IA de Google con Douglas Hofstadter, un importante científico, filósofo y académico ganador del premio Pulitzer. En esa conversación, Hofstadter admitió sentirse aterrorizado por la IA, específicamente por un programa que podía escribir música al estilo de Chopin y Bach. El tema de fondo es que este académico considera que no hay nada más humano en el mundo que la expresión de la música.
Si consideramos la música como la máxima expresión humana y la IA escribe música que no podemos distinguir de la creada por humanos, el avance de la IA se vuelve espantoso y descorazonador. Lo mismo sucede si, por ejemplo, consideramos nuestra capacidad para resolver problemas matemáticos complejos como lo que nos define como humanos y la IA es capaz de igualarnos o vencernos en ese tipo de tareas.
A decir de Mitchell, los investigadores de Google no parecieron sentirse muy conmovidos por el miedo de Hofstadter. Muchos de quienes están trabajando en el área de IA se apresuran a crear mejores modelos sin pensar mucho en las consecuencias que tiene para la humanidad. Muchos están obsesionados con crear una inteligencia artificial general. En este sentido, la encíclica recién publicada advierte los riesgos del transhumanismo como potenciación del ser humano a través de la tecnología y del posthumanismo como hibridación entre ser humano y máquina para entrar en una nueva etapa evolutiva.
El gran acierto de León XIV radica en que la clave para desarrollar y gobernar la IA no está en la tecnología misma, sino en la concepción que tengamos del ser humano. El papa advierte cómo el desarrollo de la tecnología sin una comprensión clara del ser humano lleva a peligros importantes: “En nombre del progreso se puede llegar a pensar en ‘sacrificios necesarios’, y hacer pagar a los más vulnerables el precio de una presunta optimización de la especie”. En este sentido, la encíclica propone que lo que representa un límite humano como lo son incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad en realidad es lo que nos permite “reconocer la dignidad propia y ajena como inviolable”.
León XIV nos ofrece, de esta forma, una caracterización de lo humano: “Para eliminar totalmente el dolor sería necesario, a fin de cuentas, apagar también el amor y el deseo. Quien ama y desea, en efecto, no puede evitar atravesar la prueba y el sufrimiento, y por eso, a lo largo de los años conservamos en nosotros enseñanzas que quedan marcadas como cicatrices, memoria del camino realizado entre libertad y caídas, sueños y decepciones. Sólo gracias al entramado de estos elementos, se realizan en el corazón esas maravillas interiores que nos hacen saborear el gusto más dulce de nuestro ser humanos”.
La clave para enfrentar los retos que nos plantea el avance de la inteligencia artificial está en comprender qué es lo que nos hace humanos y qué es lo que nos da una dignidad especial que nos debe llevar a tratar a las personas siempre como fines y nunca instrumentalizarlas. Un sentido trascendente del ser humano es el antídoto contra la desesperación y la pérdida de sentido en la era de la IA y también la solución para darle un lugar realista a la tecnología en la economía y la sociedad. León XIV nos recuerda que la IA es como el humano sólo en apariencia. Y es precisamente esa diferencia la que debe orientar cómo diseñamos, regulamos y convivimos con la inteligencia artificial.