El físico catalán, autor de 'Ética para máquinas', alerta sobre los riesgos reales de la tecnología más allá de los relatos apocalípticos: "Debería haber un botón de apagado instantáneo de la IA que seguramente no existe en estos momentos"

Actualizado Miércoles, 16 septiembre 2026 - 00:09

Hace ahora seis años (que parecen seis siglos), Stuart Russell, profesor de Ciencias de la Computación en la Universidad de California y uno de los primeros teóricos de la inteligencia artificial, advirtió: "Crear una inteligencia superior podría ser el mayor acontecimiento en la historia de la humanidad... Por desgracia, también podría ser el último".

Desde entonces, los mensajes ciberapocalípticos nos han ido cayendo como meteoritos sobre el cogote a la misma velocidad que la IA se colaba por todas las costuras de nuestra vida cotidiana y calentaba la gran batalla comercial y geopolítica de nuestro tiempo. La gran novedad es que los peores augurios llegan ahora desde el propio sector. En las últimas horas hemos escuchado a los grandes líderes de las tecnológicas alertar sobre el peligro real de que la IA que ellos diseñan se apodere de todo internet, fabrique virus inéditos que acaben con nosotros o directamente nos aniquilen antes de que acabe la próxima década.

"La desaparición de la especie por culpa de la IA me parece una exageración. Los peligros son menos apocalípticos, pero más reales y de gran calado", matiza desde Singapur el físico catalán José Ignacio Latorre (Barcelona, 1959), referente internacional en computación cuántica e IA, director del Center for Quantum Technologies y autor de ensayos como Ética para máquinas o Un nuevo Contrato Social, donde profetiza un futuro en el que "es posible que no quede resquicio alguno para cualquier tipo de supremacía intelectual humana".

En apenas una semana, varios de los principales líderes de la IA han pedido ralentizar su desarrollo. ¿Estamos ante un verdadero punto de inflexión o ante una maniobra de las propias tecnológicas para controlar las reglas del juego?

No es sencillo saber lo que está pasando en el corazón de la IA para los que estamos fuera. Creo que sí es cierto que hay una preocupación genuina en las empresas tecnológicas que dominan los espectaculares avances en IA. Cualquier mal uso por parte de uno de sus empleados puede dar lugar a problemas económicos, legales y éticos de gran calado. Existe además una componente de seguridad nacional, para todos los países, que no debe ser obviada.

Usted lleva tiempo advirtiendo del riesgo de que la IA quede en manos de grandes corporaciones. ¿Le sorprende que ahora sean precisamente sus máximos responsables quienes hablan de peligro? ¿Debemos creerles?

Los responsables de estas corporaciones también rinden cuentas ante la ley. Es lógico que haya una cierta preocupación en su agenda. Es muy posible que una parte importante del tiempo de sus altos cargos esté dedicado a analizar cómo avanzar rápidamente en la comprensión de la IA mientras se preservan controles rigurosos. Debería haber un botón de apagado instantáneo de la IA que seguramente no existe en estos momentos.

La reacción inicial de China ha sido acusar a EEUU de utilizar el "manual de la Guerra Fría" para frenar sus avances en IA. ¿Cómo interpreta lo que está pasando en términos geopolíticos?

Sin duda, el gobierno de EEUU no es favorable a frenar los avances de la IA, dada la enorme competencia que viene de China. Pero también es cierto que en Asia se da la misma preocupación que inyecta la posibilidad de una IA desbocada. La ética, tarde o temprano, nos afecta a todos. Mi opinión, sin embargo, es que no habrá freno a corto plazo. La geopolítica se impondrá y una carrera feroz entre China y EEUU está servida. A medio plazo, no dudo de que Europa también tendrá inteligencias artificiales espectaculares. Una vez que la ciencia confirma que la IA avanzada es posible, es solo cuestión de tiempo que muchos países consigan dominarla. Así ha sido con todas las tecnologías del pasado.

"No habrá freno de la IA a corto plazo. La geopolítica se impondrá y una carrera feroz entre China y EEUU está servida"

¿Podemos aspirar a una verdadera y efectiva regulación global?

No a corto plazo. A largo plazo, sí se creará una regulación global sobre la IA. Así ha sido sobre los demás avances tecnológicos, a pesar de que suelen ser acuerdos débiles, de menor calado que el necesario. Es importante que los ciudadanos de a pie hagan oír su voz. Los gobiernos deben atender a la voluntad general, tal como indica nuestro contrato social.

Se habla cada vez más de agentes autónomos capaces de actuar sin supervisión humana. ¿Cuál es hoy, desde el punto de vista científico, el escenario que más debería preocuparnos?

El escenario más preocupante es dejar libre a una IA autónoma y potente. Sin guardarraíles, la IA puede realizar acciones que transgreden la voluntad humana, la ley, la ética. Debemos ser cuidadosos en definir entornos cerrados para su acción, establecer límites en lo que es lícito. Imaginemos un coche autónomo equipado con IA al que le damos la instrucción de llegar lo antes posible a nuestro destino. De forma consecuente, el coche podría intentar moverse a 100 km/h en un entorno urbano, podría provocar accidentes. El error está en dar instrucciones incorrectas. Toda asignación de trabajo a una IA debe venir supeditada de las limitaciones legales y éticas necesarias.

¿Estamos exagerando los riesgos existenciales de la IA o, por el contrario, seguimos subestimándolos porque no somos capaces de imaginar hasta dónde puede llegar una inteligencia que mejora a una velocidad tan grande?

No estamos exagerando. Volvamos al inicio de la era industrial. Cualquier voz que alertase de los efectos de la contaminación en el medio ambiente o de la esclavitud en las condiciones de trabajo se quedó corta. Nos está costando siglos rectificar los errores iniciales. No debemos permitir nuevas derivas incorrectas, menos al hablar de inteligencia.

Jacob Coxon, investigador de Anthropic, dimitió la semana pasada alegando que su antigua empresa y su rival, OpenAI, compiten por desarrollar tecnologías que "podrían acabar con todos nosotros antes de que termine la década". ¿Cuánto debemos asustarnos?

La desaparición de la especie por culpa de la IA me parece una exageración. Los peligros son menos apocalípticos, pero más reales y de gran calado. A muy largo plazo es posible que la especie dé lugar a otras formas de inteligencia, pero no será en el futuro inmediato.

Estos días también hemos escuchado a investigadores y científicos de las propias compañías alertando de que la IA podría escapar a nuestro control. ¿Qué significa exactamente "perder el control"? ¿Es una posibilidad científica real o una metáfora?

Las alertas recientes están relacionadas con peligros de ciberseguridad. La pérdida de control de una IA puede, efectivamente, tener consecuencias en el necesario secreto de la gestión de datos. No hay metáfora alguna: si una IA avanza desbocada, nuestra seguridad está en peligro manifiesto.

Usted habla de un "nuevo contrato social" en el que la IA debe tener un papel. ¿Quién debe decidir qué puede hacer una máquina y qué decisiones deben seguir siendo exclusivamente humanas?

Los gobiernos deben establecer leyes marco sobre el uso de la IA atendiendo a la voluntad general, tal como indicaría Rousseau. Atención: la investigación científica en IA debe seguir adelante, pero su uso debe ser regulado. La adquisición de conocimiento es imparable, pero eso no significa que no establezcamos límites para la tecnología. Un coche no debe ir a 300 km/h cerca de un colegio. Un helicóptero no debe aterrizar en la plaza donde juegan los niños. Una medicina debe ser rigurosamente probada antes de ser comercializada. La tecnología sólo tiene sentido si nos es útil y nos dignifica como especie.

Si mañana usted tuviera que poner una sola línea roja al desarrollo de la inteligencia artificial, ¿cuál sería?

Establecería que la IA debería ser desarrollada e implementada en código abierto y bajo tutela ética de la población. La IA debe avanzar, pero debe ser un bien colectivo, no un cisma económico en beneficio de unos pocos.