El f�sico catal�n advierte de un futuro dominado por una superinteligencia que nos dejar� atr�s. Reaccionar a tiempo, advierte, implica aceptar que la IA pueda incluso gobernarnos: "Tomar� sin duda decisiones m�s sensatas que muchos humanos"

Actualizado Martes, 21 abril 2026 - 15:32

Sam Altman, el CEO de OpenAI, ha admitido que sus hijos nunca ser�n m�s inteligentes que una IA. �Eso nunca suceder�, ha llegado a decir el responsable de la empresa que cre� ChatGPT. Coincide con �l Jos� Ignacio Latorre (Barcelona, 1959): �Todo ni�o nacido a mediados del siglo XXI en adelante ser� menos inteligente que la inteligencia artificial general�. Y lo que es ya un consenso entre los padres de la IA, sentencia Latorre, parece ciertamente �aterrador�.

Este f�sico, referente internacional en computaci�n cu�ntica e IA, ha desarrollado su carrera cient�fica en el MIT de Estados Unidos, el Instituto Niels Bohr de Dinamarca, el TII de Emiratos �rabes Unidos o el NUS de Singapur, desde donde nos atiende por videoconferencia como director del Center for Quantum Technologies. Quien pensara que con el coronavirus o la irrupci�n de una IA capaz de expresarse como los humanos ten�amos ya cubierto el cupo de posibles distop�as, que trague saliva: �La era de informaci�n comprensible a los humanos tocar� a su fin. Esa transici�n no se har� sin dolor. Ser�n muchos los humanos y los gobiernos que se opondr�n a dejar que las m�quinas se comuniquen entre s� en un lenguaje incomprensible�.

�M�quinas fuera del control y al margen de las reglas humanas? En su �ltimo libro, Un nuevo Contrato Social (editorial Rosamer�n), Latorre va m�s all� de cualquier pel�cula de ciencia ficci�n. Como humanos, deber�amos empezar a asumir que la IA nos dejar� atr�s. Que el tiempo del dominio del ser humano sobre todo y sobre todas las especies est� llegando a su fin. �Es posible que no quede resquicio alguno para cualquier tipo de supremac�a intelectual humana�, escribe. Y una vez aceptado esto, lo siguiente ser�a actualizar el contrato social que propuso en 1762 Jean-Jacques Rousseau, por el cual hemos cedido parte de nuestra libertad como individuos en favor del inter�s general.

Para el fil�sofo franc�s, el pueblo era soberano. Para Latorre, ha llegado el momento de que los humanos compartamos esa soberan�a con la IA.

Su tesis es que hace falta un nuevo contrato social porque no podemos obviar que, con la IA, los humanos ya no estamos solos en este mundo. Sin embargo, eso implicar�a necesariamente aceptar su superioridad, quedarnos con la soluci�n que aporte una IA antes que con la que dise�e nuestra mente humana e, incluso, proteger a las m�quinas otorg�ndoles no solo deberes sino tambi�n derechos. �Estamos preparados para ese salto?

Me temo que no. Los humanos no estamos preparados para algo as�. Una cura de humildad tan severa nos acongoja a todos.

Lo que propone es que la IA nos gobierne y hasta que legisle...

Me gustar�a hacer un comentario muy obvio. Mucha gente se queja de los gobiernos. Es la queja est�ndar en democracia. Lo que yo creo es que tenemos un fallo de gobernanza, no de gobierno. Lo que no funciona es el sistema de partidos pol�ticos, que est� viciado. As� que abogo por un cambio de gobernanza, de forma de gobernar. A un nivel bajo, por ejemplo, en las mesas de contrataci�n. Habr�a que entrenar a una IA para que emita su juicio en un concurso p�blico. El gran problema ser� qu� peso tiene esa opini�n artificial en la decisi�n final. Pienso que, de forma muy natural, ir� ganando peso. �Por qu�? Porque en much�simos casos la IA tendr� raz�n. De forma lenta y subliminal se eliminar� uno de los problemas de la democracia: la corrupci�n. Es literalmente imparable. No veo otro futuro posible.

�Y a un nivel superior?

Aqu� hay que mencionar la reciente noticia de que Anthropic ha retenido la �ltima versi�n de su IA. No la ha hecho p�blica porque el nuevo modelo es capaz de detectar los fallos de ciberseguridad de una empresa. Eso es muy fuerte porque los humanos tenemos una capacidad limitada para comprender por d�nde nos puede entrar el enemigo. La IA en este caso ya es capaz de descubrir agujeros de seguridad que ning�n humano hab�a descubierto. Hacerlo p�blico hubiera sido una disrupci�n tremenda. A ese nivel, hay que ir con much�simo cuidado. C�mo vamos a protegernos de eso es un debate m�s complicado.

"Independientemente de la IA, la especie humana podr�a perfectamente desaparecer. Los dinosaurios no abundan y mira que hubo"

�Por qu� deber�amos renunciar a lo que nos hace humanos, a la capacidad de autogobernarnos conforme a nuestros valores morales, para ceder nuestra parcela de poder a la IA?

Solo hago una constataci�n. No es que yo quiera que suceda, sino que estoy convencido de que va a suceder. De hecho, confiar en las m�quinas no es algo nuevo para nosotros. Como humanos, ya les cedimos nuestra soberan�a antes de la irrupci�n de la IA. En una noche de niebla en la que no se ve nada, todos los pasajeros de un avi�n querr�n que se active el piloto autom�tico. No hay ninguna duda de que la m�quina lo har� mejor que cualquier persona. En una cadena de producci�n, los robots lo hacen mejor que cualquier trabajador. Los coches que conducimos est�n hechos por robots. �Eso quiere decir que cedemos todo y que ya no hacemos una vasija de arcilla por el puro placer del arte? No, la hacemos. �Quiere decir que si las m�quinas son m�s fuertes nosotros dejamos de ir al gimnasio para entrenar la fuerza? No. Pero lo que es indudable es que la IA tomar� decisiones m�s sensatas que muchos humanos. Su opini�n ser� mejor. La gente no lo ve, pero la IA es tal vez uno de los pasos disruptivos m�s grandes que ha dado la humanidad.

Igual que el de sereno es hoy un oficio desaparecido, en su libro vaticina que los humanos seremos tambi�n una "an�cdota" del pasado. �Existe alguna posibilidad de que como especie no sobrevivamos a la IA?

Los trilobites no abundan, y mira que hubo un mont�n. Los dinosaurios tampoco. Cada 30 millones de a�os hay una desaparici�n masiva de especies. No hay ning�n fen�meno conocido que tenga un ciclo de 30 millones de a�os. Los humanos, con la capacidad de nuestro cerebro de hacernos una narrativa del universo, nos hemos llevado grandes sorpresas. Primero pens�bamos que la Tierra era plana. Luego, que era el centro del universo, hasta el punto de que se quemaba en la hoguera a la gente que dec�a lo contrario. Lo siguiente fue aceptar que tal vez el Sol era el centro y, por �ltimo, que es una estrella en un sitio anodino a 30.000 a�os luz del centro. No est� mal como cura de humildad. Nos hab�a quedado que somos el centro del intelecto, los �nicos que pensamos. Vete preparando, porque tampoco es verdad. Ese egocentrismo profundo que tiene el cerebro humano, que ha sido muy �til para evolucionar, no es necesariamente correcto. Independientemente de la IA, la especie humana podr�a perfectamente desaparecer. De entrada, hemos creado una inteligencia artificial y puede que ya no pintemos nada aqu�. Es m�s, la IA tiene una ventaja evolutiva respecto a los humanos: su soporte no es perecedero, porque no es un soporte biol�gico como el nuestro. Si la inteligencia la pasas a otro soporte, la m�quina sobra. El antrop�logo Eudald Carbonell presagi� que a final de siglo habr�a no una especie humana, sino varias:la no modificada gen�ticamente y ciertas modificadas gen�ticamente. La evoluci�n de los humanos tal y como la entendemos no est� garantizada. Es muy improbable que a largo plazo la especie humana se mantenga como la conocemos. Muy improbable.

El debate ya gira en torno al desarrollo de una superinteligencia artificial superior a cualquier humano, aut�noma y con capacidad de razonar y de mejorarse a s� misma. Llegados a ese punto, y aunque suene a ciencia ficci�n, �una superinteligencia as� podr�a volverse contra nosotros y vernos como sus enemigos?

Lo han descrito Ray Kurzweil o Nick Bostrom. Una instrucci�n na�f a una IA puede ser tremendamente da�ina. Si la IA tuviera la instrucci�n de hacer lo que fuese para salvar la Tierra, podr�a vernos a los humanos como sus enemigos. Somos incapaces de saber todo el mal que podr� llegar a hacer la IA. Hay que tener mucho cuidado con la velocidad del cambio. Ha de ser un cambio muy pausado, infinitesimalmente avanzado, para tener tiempo de corregir cada error. Si el tr�nsito a una sociedad dominada por la IA se hace muy r�pido, ser� un desastre.

"Las trampas que se avecinan con la inteligencia artificial son infinitas: tendremos a l�deres fallecidos revividos y llamando a las armas"

Usted lo compara con el shock inicial de la Revoluci�n Industrial, que destroz� vidas y contamin� ciudades sin que nadie se planteara dar un paso atr�s. �La revoluci�n de la IA va tambi�n demasiado r�pido?

Absolutamente. La Revoluci�n Industrial se hizo sin pensar y con la IA ya ha habido cartas colectivas de cient�ficos pidiendo frenar. Pero es imposible con tantos intereses en juego. Por ejemplo, ya se est� coordinando con IA el ataque de drones sobre un pa�s. El da�o a la sociedad ser� enorme y nos costar� siglos. Se est� extendiendo el mal uso y el n�mero de scams [timos digitales] para la suplantaci�n de la identidad va a dispararse. Las trampas que se avecinan son infinitas. Tendremos a l�deres fallecidos revividos y llamando a las armas. Resucitaremos a parientes fallecidos d�ndoles autonom�a de comportamiento y de voz. Podremos hablar con personas que han muerto que conversar�n y razonar�n como lo hac�an estando vivas. Da v�rtigo �tico.

�Cu�nto tiempo queda para esa superinteligencia? 'Terminator' auguraba un mundo dominado por m�quinas para 2029...

Kurzweil habl� de 2035. El a�o 2030 ya es apuradito...

En el libro advierte del tridente formado por un gobierno autoritario, una tecnolog�a en manos de oligarcas y una religi�n manipulable. �Le parece casualidad que justamente ahora asistamos a lo que parece un auge de la fe entre los m�s j�venes?

Ya lo escrib� antes de que pasase todo esto. En el libro �tica para m�quinas, que publiqu� en 2019, hay un cap�tulo en el que se�alo que los conflictos importantes no ser�n los de izquierdas y derechas, sino los de j�venes y viejos y los de humanos y m�quinas. Yo digo que el �ltimo basti�n que abandonar�n los humanos es el de la religi�n, porque es el �ltimo resquicio donde se puede ser irracional. Y los humanos amamos nuestra irracionalidad. En Estados Unidos se ha disparado el n�mero de cristianos. Al binomio Elon Musk- Donald Trump le falta tener dominado al pueblo. Por eso el presidente estadounidense siempre usa un vocabulario religioso: �Dios est� con nosotros�. Le falta el soma [la droga que hace felices -y somete- a los habitantes de Un mundo feliz, de Aldous Huxley].