El estado de Florida, en Estados Unidos (EEUU), ha demandado a OpenAI y a su CEO, Sam Altman, acusando a la compañía de inteligencia artificial de ignorar advertencias de seguridad y lanzado ChatGPT al mercado a sabiendas de que era perjudicial para los usuarios.

La demanda, presentada en un tribunal estatal, acusa a OpenAI y a su chatbot de violar las leyes de responsabilidad de producto e incluye también cargos por negligencia y por prácticas comerciales desleales y engañosas. Por todo ello, Florida solicita sanciones civiles y una orden judicial que impida a la empresa recopilar datos de usuarios menores de 13 años sin consentimiento parental, entre otras medidas.

"Sam Altman y ChatGPT han elegido la carrera por la IA por encima de la seguridad de los menores", ha declarado el fiscal general de Florida, James Uthmeier, durante una rueda de prensa. "Han elegido el beneficio por encima de la seguridad pública. No lo vamos a tolerar aquí en Florida."

La batalla contra los chatbots

Esta es la primera denuncia de este tipo presentada por un estado contra OpenAI; no obstante, la empresa ya arrastra problemas que alegan daños en menores y adultos. Algunos comentan que existe un desarrollo de delirios con el uso prolongado del chatbot; otros lo relacionan con casos de suicidio e incluso de asesinato seguido de suicidio.

Sin embargo, la compañía ha negado irregularidades, la seguridad es una prioridad y que, además, ha tomado medidas para mejorar el entrenamiento de ChatGPT ante señales de angustia mental o emocional.

OpenAI no es, en todo caso, el único fabricante de chatbots que afronta este tipo de ofensiva legal. En enero, Kentucky demandó a Character Technologies Inc., la empresa creadora de la aplicación Character.AI, por presuntamente dirigirse a menores y conducir a conductas de autolesión. En junio, Utah demandó a Snap por alegaciones de que su chatbot de IA contribuye a la adicción a las redes sociales.

El 'peligro' de ChatGPT

En cuanto al fondo de la demanda, el escrito recoge una amplia gama de daños presuntamente causados por ChatGPT que afectan tanto a menores como a adultos. Señala preocupaciones de seguridad pública, incluyendo la supuesta participación del chatbot en la facilitación de tiroteos masivos y otros actos de violencia. Afirma, asimismo, que el producto ha provocado "humillación pública" y la pérdida de capacidad de pensamiento crítico, y alega que es especialmente adictivo y perjudicial para los usuarios jóvenes, dado que carece de herramientas de supervisión parental.

"Esta letanía de daños está impulsada por la insaciable carrera de los demandados por ganar la carrera armamentística de la IA y amasar grandes fortunas, a pesar de conocer el peligro de ChatGPT", señala el texto. "Si no se pone freno, la conducta de los demandados seguirá amenazando la salud y la seguridad de los residentes de Florida."

En definitiva, Florida alega que OpenAI ha sido "imprudente" en la introducción de su chatbot al público y que su comunicación no transmite de forma adecuada los riesgos del producto.

La demanda civil es, por otra parte, independiente de la investigación penal por el tiroteo en la Universidad Estatal de Florida, en el que las autoridades señalaron que ChatGPT fue utilizado durante la planificación del ataque. OpenAI ha negado su responsabilidad en la tragedia y afirma cooperar con la investigación. Uthmeier ha confirmado este lunes que la investigación sigue en curso.

Todo ello llega en el momento en que OpenAI se prepara para una oferta pública inicial de acciones (IPO) en las próximas semanas.