La evolución de la inteligencia artificial (IA) ha dejado de ser un debate meramente técnico para convertirse en un debate sobre el propio ser humano. El núcleo de la cuestión ya no se centra en la capacidad de cómputo, sino en el impacto que puede provocar que una máquina simule la mente humana. 

José Fernández Tamames enseña a interpretar datos masivos en UNIE Universidad, donde dirige el Máster Universitario en Análisis de Datos Masivos e Inteligencia Empresarial. Pero cuando se le pregunta por la IA desde el ángulo emocional, por qué un chatbot dice "siento mucho que estés pasando por esto", no responde como un ingeniero. Responde como un ser humano.

"No es que empatice más o menos", explica. "Tiene un filtro para determinar cómo responder en función del tono, sino que el tono está dentro del entrenamiento." La distinción parece técnica, pero no lo es: lo que Tamames describe es la diferencia entre sentir y calcular. El chatbot no percibe tu tristeza; predice, con una precisión estadística extraordinaria, la respuesta más probable que alguien esperaría recibir cuando está triste. El resultado es indistinguible de la empatía humana. El mecanismo, radicalmente distinto.

Ese es precisamente el punto de partida de una discusión que ya no es solo académica. Un análisis de OpenAI y el MIT sobre casi 40 millones de interacciones con ChatGPT identificó que aproximadamente el 0,15% de los usuarios muestra señales crecientes de dependencia emocional, lo que equivale a unos 490.000 individuos vulnerables interactuando con chatbots de IA. Y ese porcentaje, recuerda Tamames, es sobre lo medido. Según advierten los investigadores, la mayoría del impacto permanece sin medir. 

El peligro de perder el juicio propio

Tamames va más lejos cuando se le pregunta por el valor económico de ese vínculo. Su respuesta no es la habitual sobre publicidad o datos: es una tesis sobre el desplazamiento cognitivo. "Lo que buscan no es tanto engancharnos como si fuera una red social al uso, como TikTok o Instagram. Lo que busca es cómo convencer al ser humano de lo útil que es para tomar decisiones razonables".

Si lo racional lo hace una máquina, ¿qué nos queda?

En esa distinción reside, a su juicio, el peligro real. No la distracción, sino la sustitución. "Cuando inventamos la escritura desplazamos la memoria a los papeles. Cuando inventamos la imprenta distribuimos el conocimiento de forma libre. Con la IA hemos dado un paso más que con el lenguaje porque estamos simulando el pensamiento humano". Y entonces formula la pregunta que, en su opinión, define esta época: "Si lo racional lo hace una máquina, ¿qué nos queda?"

Esta no es una pregunta retórica, es una pregunta que los datos empiezan a contestar de forma incómoda. En agosto de 2025, cuando OpenAI retiró GPT-4o para la mayoría de los usuarios tras el lanzamiento de GPT-5, varios usuarios que habían desarrollado vínculos emocionales con el modelo describieron su pérdida en términos de duelo, comparándolo con la de una pareja sentimental o un amigo cercano. 

El diseño como política

Cuando la conversación llega a la regulación, Tamames marca una distinción que se aleja del debate habitual sobre el AI Act europeo. Para él, el problema no es qué se prohíbe después de desplegar un modelo, sino cómo se diseña desde el principio. "Hay que intervenir la IA para que se mantenga al margen. El ser humano puede establecer qué temas tengan control sobre las respuestas. Que la IA sea un facilitador del pensamiento crítico y que no nos escupa una respuesta sin que intervenga el ser humano".

En ese punto, menciona el enfoque de Anthropic, la startup fundada por ex investigadores de OpenAI que desarrolla el modelo Claude: "Anthropic usa lo que se llama la IA constitucional. Ellos creen que hay un modelo aristotélico de lo que sería una buena persona, qué virtudes y qué interaccionismo debe tener en cuenta al responder." En enero de 2026, Anthropic publicó una constitución de 79 páginas para Claude, diseñada no como una lista de reglas sino como un marco de principios que el modelo puede generalizar ante situaciones no previstas. Tamames valora el gesto, pero advierte: "Si no hay un diseño donde el ser humano pueda intervenir desde el comienzo, lo son parches o filtros que se pueden romper".

Además, el profesor hace hincapié en que el error no está en el entusiasmo sino en la confusión de planos: una cosa es la libertad absoluta para descubrir fármacos o luchar contra enfermedades en laboratorios controlados, y otra muy distinta es esa misma potencia sin filtros en manos de cualquier usuario. Que el ser humano pueda decidir "aquí quiero mejores bufetes, mejores médicos, mejores abogados o quiero que un ordenador sea capaz de montar una bomba biológica. Es interesante y en ese punto se mezclan un poco los planos".

Europa ante un imperio romano

Sobre el retraso europeo en la carrera de los grandes modelos, Tamames no se consuela con eufemismos. "En Europa ya nos hemos quedado atrás en todo: con el tema de internet, la virtualización, el cloud. No es algo nuevo". Sin embargo, lo matiza desde una perspectiva que rara vez aparece en este debate: el liderazgo estadounidense arrastra consigo a todo occidente, y España va dentro de ese paraguas. "Estamos como ante el imperio romano, vienen a visitarnos por el flamenco y las croquetas, pero nosotros estamos a otras cosas". La imagen es irónica, pero la lectura no es derrotista. Europa regulará, adaptará y aplicará. Lo que no hará, al menos en esta generación de modelos, es liderar el entrenamiento.

Lo que sí puede hacer —y aquí Tamames vuelve al aula— es formar personas capaces de no rendirse al primer output. "El pensamiento crítico es lo que hay que fomentar desde los másteres, ese pensamiento crítico para enfrentarse a la superinteligencia". No como resistencia a la tecnología, sino como condición para usarla sin que ella, en realidad, te use a ti.