OpenAI afronta un juicio y no solo con Elon Musk. La compañía de Sam Altman es objeto de nuevas demandas por el tiroteo masivo en un colegio de Columbia en las que se alega que la empresa de inteligencia artificial podría haber impedido que el presunto asesino utilizara su popular chatbot, ChatGPT, antes del ataque.

Las demandas llegan en un momento delicado para OpenAI, que está preparando una esperada oferta pública inicial que se perfila como una de las mayores de la historia, a medida que la compañía se acerca a una valoración de un billón de dólares.

OpenAI también intenta refutar las acusaciones de Elon Musk de que abandonó su misión fundacional como organización sin ánimo de lucro cuando se reestructuró el año pasado como una entidad con fines de lucro. En un juicio que comenzó esta semana en California, Musk podría solicitar a un juez que ordene la anulación de dicha conversión.

Una de las demandas, presentadas el miércoles ante un tribunal federal de San Francisco contra OpenAI y su director ejecutivo, Sam Altman, fue interpuesta por una niña de 12 años que resultó herida de bala durante el incidente y permanece en cuidados intensivos, y su madre. Otra demanda fue interpuesta por la madre de una niña que falleció en el tiroteo.

Según las demandas, OpenAI sabía que Jesse Van Rootselaar estaba planeando el ataque debido al uso que hacía el atacante de ChatGPT, pero tomó la "decisión consciente de no alertar a las autoridades".

Según las denuncias, "ChatGPT desempeñó un papel en el tiroteo masivo y OpenAI podría y debería haberlo evitado", y alegan que la empresa emergente quería evitar tener que contactar con la policía cada vez que el equipo de seguridad de OpenAI detectaba a un usuario de ChatGPT planeando llevar a cabo un acto violento.

"Los sucesos de Tumbler Ridge son una tragedia. Tenemos una política de tolerancia cero ante el uso de nuestras herramientas para facilitar la comisión de actos violentos", declaró OpenAI en un comunicado. "Como ya hemos comunicado a las autoridades canadienses, hemos reforzado nuestras medidas de seguridad, incluyendo la mejora de la respuesta de ChatGPT ante señales de angustia, la conexión de las personas con recursos locales de apoyo y salud mental, el fortalecimiento de la evaluación y la escalada de posibles amenazas de violencia, y la mejora de la detección de infractores reincidentes".

Demandas contra fabricantes de chatbots

Desde 2024 se han presentado varias demandas contra fabricantes de chatbots, la mayoría dirigidas a OpenAI y ChatGPT. La mayoría de las demandas alegan que el uso generalizado de esta tecnología ha causado diversos daños tanto a niños como a adultos, provocando delirios y desesperación en algunos y llevando a otros al suicidio e incluso al asesinato-suicidio.

El 10 de febrero, Van Rootselaar presuntamente perpetró el tiroteo masivo en el noreste de la Columbia Británica, matando a ocho personas, entre ellas su madre y su hermanastro, además de otras seis en la escuela, cinco de ellas menores de edad, e hiriendo a más de dos docenas. Van Rootselaar, de 18 años, fue hallada muerta tras el tiroteo, aparentemente por una herida autoinfligida.

Tras el tiroteo, OpenAI anunció que había suspendido la cuenta de Van Rootselaar por infringir su política de uso de ChatGPT en junio pasado. En aquel momento, su cuenta fue marcada por mensajes considerados potencialmente violentos, pero OpenAI no alertó a la policía. El Wall Street Journal fue el primero en informar sobre la decisión de OpenAI, señalando que empleados preocupados instaron a la empresa a denunciar la situación a las autoridades.

Más adelante, en febrero, OpenAI reveló que la presunta asesina creó una segunda cuenta de ChatGPT que no detectó hasta que la policía publicó su nombre; OpenAI comunicó a los legisladores canadienses que, según las normas de la empresa recientemente actualizadas, habría remitido el caso de Van Rootselaar a la policía.

La semana pasada, Altman escribió en una carta publicada por Tumbler RidgeLines, un sitio web de noticias local, que quería expresar sus "más sentidas condolencias a toda la comunidad".

"Lamento profundamente no haber alertado a las autoridades sobre la cuenta que fue bloqueada en junio", escribió Altman. "Aunque sé que las palabras nunca son suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad".