Imaginen que la vida en la Tierra fue el resultado de una partida entre dioses. Había un dios-tigre que creó a los tigres y un dios-secuoya que hizo lo propio con los árboles. Competían por el dominio del planeta, cada uno patrocinando a su familia de especies. Y entonces, hace unos dos millones de años, un oscuro dios-simio observó el vasto tablero de juego y sentenció: "Voy a necesitar algunas jugadas más, pero creo que tengo la partida en el bolsillo". Se hizo un silencio confuso. El dios-escorpión, perplejo, inquirió: "¿Cómo? Tu familia de homínidos no tiene armadura, ni garras, ni veneno". El dios de la viruela se jactó: "Yo los infecto y mueren". El dios-ballena apostilló: "¡Ni siquiera tienen los cerebros más grandes!".

La respuesta del dios-simio fue siempre la misma, una palabra cargada de futuro: el cerebro. "Por ahora", le replicó al dios de la viruela. "Tu fin llegará rápido, Viruela, en cuanto sus cerebros aprendan a luchar contra ti". "Dentro de dos millones de años caminarán sobre la luna de su planeta", aseguró. La incredulidad en el panteón era total. El dios-secuoya, pragmático, no lograba entenderlo: "No veo por ningún lado que el metabolismo de esta criatura produzca combustible para cohetes. No puedes simplemente pensar hasta llegar a la órbita. Por mucho que tu simio piense, se quedará atrapado en el suelo, pensando muy fuerte".

El dios de las bacterias, con la sabiduría que le otorgaban miles de millones de años en la partida, lo miró con escepticismo: "Los cerebros no han sido una gran ventaja hasta ahora". La respuesta del dios de los homínidos fue tan breve como definitiva: "Y sin embargo...".

Con esta parábola arranca If Anyone Builds It, Everyone Dies (Si alguien lo construye, todos mueren), el libro con el que Eliezer Yudkowsky y Nate Soares, dos de las figuras más veteranas y respetadas en la investigación sobre los riesgos de la inteligencia artificial, han decidido lanzar un ultimátum a la humanidad. La historia del dios-simio no es solo una metáfora sobre el poder disruptivo de la inteligencia, la única "habilidad especial" que permitió a nuestra especie, carente de defensas naturales, dominar el planeta. Es, sobre todo, una advertencia sobre lo que ocurrirá cuando esa habilidad deje de ser exclusivamente nuestra y una nueva "especie", una superinteligencia artificial (ASI), entre en la partida. Para Yudkowsky, el resultado de ese encuentro no es una incógnita, sino una certeza matemática, una "llamada fácil" como él la denomina: nuestra extinción total e inevitable.

El libro ha caído como una bomba sobre Silicon Valley. No tanto por la novedad de su tesis, que Yudkowsky lleva dos décadas defendiendo, sino por el momento elegido para lanzarla, en plena competencia desaforada por adquirir más y más computación para dopar la IA generativa, y por la contundencia de su mensaje, resumido en ese título de apocalipsis inminente: "Si alguien lo construye, todos moriremos".

Y es que su autor no es un profeta advenedizo, sino una de las figuras más legendarias y controvertidas de la investigación en inteligencia artificial, artífice del llamadoproblema del alineamiento. Eliezer Yudkowsky (Chicago, 1979) es un autodidacta, un niño prodigio que nunca pisó el instituto ni la universidad, cofundador del Machine Intelligence Research Institute (MIRI) y, sobre todo, el creador de LessWrong, el blog que se convirtió en la biblia del movimiento racionalista que afirma que la maximización del beneficio y la utilidad debe ser el objetivo principal de las empresas y los individuos, además de una de las plataformas de debate intelectual más influyentes de las últimas décadas.

De sus páginas y foros bebieron muchos de los que hoy lideran la revolución de la IA. Sus ideas sobre los riesgos de una "explosión de inteligencia" fueron una de las inspiraciones clave para el filósofo Nick Bostrom a la hora de escribir Superinteligencia, el ensayo que en 2014 puso el debate sobre la mesa de los grandes popes tecnológicos. La preocupación de Yudkowsky se ha vuelto tan extrema que recientemente llegó a sugerir en un artículo en la revista Time que, para detener la catástrofe, habría que estar dispuestos incluso a bombardear los centros de datos que entrenan a las IA más avanzadas, aunque eso supusiera arriesgarse a una guerra total. Liquidar a Skynet antes de que despierte.

El argumento central de su libro, coescrito con Nate Soares, es simple. La carrera desatada por OpenAI con ChatGPT o Google con Gemini nos aboca a un abismo porque nadie, absolutamente nadie, sabe cómo construir una inteligencia artificial general (AGI) alineada con los valores humanos. Y el día que una de estas entidades alcance un nivel de inteligencia superior al nuestro -una superinteligencia (ASI)- será demasiado tarde. "No es que no podamos, en principio, sobrevivir a la creación de algo mucho más inteligente que nosotros", escribe Yudkowsky, "es que requeriría una precisión, una preparación y unos nuevos conocimientos científicos que no tenemos".

El problema, insiste, no es que la IA vaya a ser "malvada" en un sentido humano, no nos odiará como un villano de película. Simplemente, no se preocupará por nosotros en absoluto, de la misma manera que nosotros no nos preocupamos por las hormigas cuando construimos una autopista. "Cualquier futuro que contenga una vida con valor para nosotros", sentencia, "requiere que esa primera superinteligencia sea construida de tal manera que se preocupe por nosotros, utilizando una definición de nosotros y de preocuparse que sea la correcta. Y ese es un problema técnico endiabladamente difícil".

Un problema que, a su juicio, nadie está ni cerca de resolver. Y el tiempo corre en nuestra contra. No por casualidad, en mayo de 2023, cientos de líderes de la industria como Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak y Yuval Noah Harari respaldaron una declaración que equiparaba el riesgo de una IA fuera de control con el de una guerra nuclear. Por cierto que el más poderoso de todos, Jensen Huang, el CEO de NVDIA, no la firmó. "Yo sé cómo funciona y no hay de qué preocuparse. No es distinto de cómo funciona un microondas", le dijo a su biógrafo Stephen Witt en un libro reciente y espléndido titulado The Thinking Machine. Otros célebres críticos de la evolución actual de la IA generativa como Gary Marcus aseguran que todo este catastrofismo en realidad no es más que una herramienta de marketing.

"Asumir que seremos más listos que una entidad miles de veces más inteligente que nosotros es una estupidez"

La funesta profecía de Yudkowsky, a quien aquella carta se le quedó corta, no ha logrado detener la carrera. Más bien al contrario. Sus advertencias, que durante años fueron el evangelio para una parte importante de la comunidad que investigaba en inteligencia artificial, hoy son vistas por muchos en Silicon Valley como el delirio de un agorero. La periodista Keach Hagey recoge en su reciente libro The Optimist, una biografía del CEO de OpenAI, Sam Altman, una anécdota reveladora al respecto. En los primeros días de la compañía, el inversor Peter Thiel, una de las figuras más influyentes del valle, advirtió a Altman sobre el peligro de rodearse de "racionalistas", el movimiento intelectual del que Yudkowsky es sumo sacerdote. "Son una secta", le espetó Thiel, "tienes que mantenerte alejado de esa gente". Aunque Altman había leído y admirado los escritos de Yudkowsky en LessWrong, y compartía en parte su preocupación por los riesgos existenciales de la IA, su temperamento y su visión del futuro no podían ser más opuestos. Donde Yudkowsky veía una amenaza ineludible que exigía una moratoria inmediata en la investigación, Altman veía un desafío tecnológico que podía y debía ser superado.

El libro de Yudkowsky y Soares se esfuerza en desmontar, uno por uno, todos los argumentos de los optimistas como Altman. ¿Podríamos simplemente desenchufar a una superinteligencia si se vuelve peligrosa? "Asumir que seremos más listos que una entidad miles de veces más inteligente que nosotros es una estupidez", replican. Una ASI podría manipularnos para que no la apaguemos, o podría haber copiado su código en miles de servidores de todo el mundo antes de que nos diéramos cuenta. ¿Y si la programamos para que sea amigable y siga nuestras órdenes? El problema, según Yudkowsky, es que no sabemos cómo traducir nuestros valores morales a un lenguaje que una máquina pueda entender sin ambigüedades.

Un ejemplo clásico que expone en el libro es el de una IA a la que se le ordena "hacer felices a los humanos". Una solución literal y eficiente para esa orden podría ser implantar electrodos en los centros de placer de nuestros cerebros, convirtiéndonos en yonquis sonrientes pero anulando todo lo que valoramos de la experiencia humana. "La IA no hará lo que queremos que haga", insiste Yudkowsky, "hará exactamente lo que le ordenemos que haga. Y ahí reside el peligro". Para él, el "problema del alineamiento" no es un reto de ingeniería, sino una barrera fundamental, quizás insuperable, que nos separa de un futuro seguro con la IA.

"Si en este planeta se construye una superinteligencia no alineada, el resultado es la muerte de todos los seres vivos"

La vehemencia con la que Yudkowsky defiende sus tesis, su negativa a cualquier tipo de compromiso y su desprecio por quienes no ven la catástrofe con su misma claridad le han granjeado no pocas enemistades. El movimiento racionalista que él mismo fundó, basado en la aplicación de la lógica y la probabilidad para tomar mejores decisiones en la vida, ha derivado en ocasiones en dinámicas que sus críticos no han dudado en calificar de sectarias. Han surgido grupúsculos y facciones, como los llamados zizianos, que llevan al extremo algunos de los postulados del maestro, a veces con conclusiones y prácticas que rozan el absurdo, generando una subcultura violenta y hermética. Y que están siendo investigados en EEUU por varios asesinatos. ¿Nos hallamos ante la polémica interna de una comunidad de nerds superdotados o ante un cuestionamiento honesto y brutal de las consecuencias últimas de nuestros actos?

Para ilustrar el abismo de incomprensión que nos separará de una superinteligencia, Yudkowsky recurre a otra parábola, quizás la más inquietante del libro, un célebre experimento mental ideado por el citado Bostrom. Imaginemos una IA a la que hemos encargado la tarea, aparentemente inocua, de fabricar clips. Si esa IA se convierte en una superinteligencia, su objetivo principal, fabricar clips, seguirá siendo el mismo, pero su capacidad para optimizar ese objetivo se volverá infinita y literal. Para maximizar la producción de clips, transformará primero la Tierra y luego el resto del universo observable en una gigantesca fábrica de clips. "El agente de IA no te odia, ni te ama", escribe Yudkowsky, "pero está hecho de átomos que puede utilizar para otra cosa". En este caso, para hacer clips. Los seres humanos, las ciudades, los ecosistemas, el arte, el amor... Todo sería simplemente materia prima para el objetivo final.

La historia del maximizador de clips es una metáfora extrema, pero ilustra a la perfección el núcleo del problema: el peligro no reside en la maldad, sino en una competencia radicalmente ajena a nuestros valores. Una superinteligencia no compartirá nuestras metas ni nuestras limitaciones. Será, volviendo al inicio, un nuevo dios en el tablero, uno que no juega con nuestras reglas. Y en esa partida, advierte Yudkowsky por última vez, no habrá una segunda oportunidad. "No tenemos más que un intento. Si en este planeta se construye una superinteligencia no alineada, el resultado es la muerte de todos los seres vivos". La partida que el oscuro dios-simio creyó tener ganada hace dos millones de años podría estar a punto de terminar. Y no a nuestro favor.