Der US-Bundesstaat Florida hat eine Klage gegen OpenAI und dessen CEO Sam Altman eingereicht, berichtet heise. Generalstaatsanwalt James Uthmeier wirft der KI-Firma vor, die Sicherheit der ChatGPT-Nutzer:innen zu gefährden. Der Chatbot ist eine Bedrohung für die öffentliche Sicherheit, heißt es in der Klageschrift.

Amok-Schütze erhielt Ratschläge von ChatGPT

Die Vorwürfe wiegen schwer: ChatGPT soll eine tödliche Medikamentenkombination empfohlen und einen Schützen vor einem tödlichen Angriff an der Florida State University beraten haben. Besonders problematisch sei der Chatbot für Teenager, kritisiert Uthmeier.

In der Klage stehen Verweise auf konkrete Fälle, in denen ChatGPT gefährliche Empfehlungen ausgesprochen haben soll. Der Schütze an der Florida State University habe nicht nur Ratschläge zu Waffen und passender Munition erhalten, sondern auch zu der Frage, wo und zu welcher Zeit dort die meisten Menschen anzutreffen sein würden. Bei dem Angriff im April 2025 starben zwei Menschen, sechs weitere wurden verletzt. OpenAI beharrt darauf, dass ChatGPT nicht für die Tat verantwortlich sei.

Alphabet: Google-Mutter will 80 Mrd. Dollar für AI-Infrastruktur aufstellen

OpenAI Speerspitze von KI-Boom

Florida hatte bereits im April Ermittlungen zur Rolle von ChatGPT beim Schusswaffen-Angriff aufgenommen. Der Schütze habe vor der Tat Ratschläge von dem KI-Chatbot eingeholt, sagte Uthmeier damals. Die Ermittlungen führten nun zur Klage gegen OpenAI, die juristisches Neuland betritt. Der Bundesstaat fordert Konsequenzen für die Art und Weise, wie OpenAI seinen Chatbot vermarktet und betreibt.

OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer:innen. Dazu gehören Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Allerdings führte OpenAI diese Maßnahmen zum Teil erst nach Todesfällen und öffentlicher Kritik ein. Die Firma betont, dass sie kontinuierlich an der Verbesserung der Sicherheitsvorkehrungen arbeitet.

ChatGPT hat laut OpenAI inzwischen 900 Millionen Nutzer:innen pro Woche. Der Chatbot ist damit das wichtigste Produkt der Firma und generiert den Großteil der Einnahmen. Die Klage aus Florida könnte weitreichende Folgen für den AI-Pionier haben und die Debatte über die Verantwortung von KI-Entwicklern neu entfachen.

Aus Datenschutz-Gründen ist dieser Inhalt ausgeblendet. Die Einbettung von externen Inhalten kann in den Datenschutz-Einstellungen aktiviert werden: