Hinter der plötzlichen weltweiten Sperre von Anthropics neuem KI-Modell Fable steckt offenbar ein anderer großer Tech-Player: Amazons CEO Andrew Jassy soll unter anderem US-Finanzminister Scott Bessent von einem mutmaßlichen Jailbreak berichtet haben, die US-Regierung verhängte daraufhin eine Exportdirektive, die Anthropic wiederum zu der Sperre des KI-Modells zwang.

Mehrere Medien berichten übereinstimmend über den Fall. Demnach ließ Andrew Jassy seine Cybersicherheits-Abteilung zunächst das neue KI-Modell auf mögliche Jailbreaks testen – Tricks, mit denen man ein KI-Modell dazu bringt, Prompts zu bearbeiten, die es aus Sicherheitsgründen sonst verweigern würde. Die Experten sollen dann einen Bericht vorgelegt haben, demzufolge das KI-Modell funktionierende Exploits von Sicherheitslücken vier gängiger Programme lieferte. Jassy berichtete demnach auch US-Regierungsangehörigen davon. Ein Amazon-Sprecher bestätigte dem Wall Street Journal, dass die US-Regierung in Technologiefragen häufig den Rat von Amazon als führendes Tech-Unternehmen suche, wollte sich zu konkreten Einzelfällen aber nicht äußern.

Sacks: US-Regierung handelte „widerwillig“

Als Reaktion auf den Bericht setzte die US-Regierung Anthropic ein Ultimatum: Innerhalb von 24 Stunden müssten die Jailbreak-Probleme behoben werden – oder stattdessen der Zugang zu Fable für Nicht-Amerikaner gesperrt. David Sacks, selbst Tech-Investor und Co-Vorsitzender des Beraterstabs des US-Präsidenten für Wissenschaft und Technologie, berichtete auf X, wie das genau abgelaufen sein soll. Demnach soll Anthropic-CEO Dario Amodei sich geweigert haben, die von Amazon ausgemachten Sicherheitslücken zu schließen. Bereits zuvor hatte Anthropic in einer Stellungnahme bestritten, dass es sich um einen vollwertigen Jailbreak handele, die ausgeführten Aufgaben sind demnach auch problemlos mit OpenAIs Konkurrenz-Modell ChatGPT 5.5 machbar. „Nur widerwillig“ habe die US-Regierung wegen Amodeis Weigerung das strenge Verbot auf den Weg gebracht, lautet Sacks Darstellung. Die Hoffnung sei immer noch, dass Anthropic die vorgeworfenen Probleme behebt und das Modell wieder normal genutzt werden kann. Derweil kann Anthropic den Auflagen nur nachkommen, indem das Unternehmen sein neues KI-Modell weltweit sperrt.

Der Ansatz der US-Regierung, ein einzelnes KI-Modell wegen eines mutmaßlichen Jailbreaks zu sperren ist etwas widersinnig – nach dieser Logik ließe sich jedes KI-Modell sperren, denn jedes lässt sich theoretisch jailbreaken. Besonders bei Fable ist, dass es sich um eine Variante von Anthropics KI-Modell Mythos handelt. Um dieses hatte Anthropic selbst viel Getöse veranstaltet, weil es in kürzester Zeit vorher unbekannte Sicherheitslücken in nahezu jeder Software finden und auch gleich den nötigen Code zur Ausnutzung mitliefern soll. Anthropic hielt es deswegen für zu gefährlich für eine allgemeine Veröffentlichung. Damit lieferte Anthropic auch die Vorlage für das jetzige Vorgehen der US-Regierung, welches auch als Seitenhieb in einem längeren Streit zwischen ihr und Anthropic verstanden werden kann. Die US-Regierung darf Anthropics KI nicht für autonome Waffensysteme nutzen, was dem Unternehmen in der Vergangenheit Sanktionen bescherte. Das jetzige Fable-Zugangsverbot für nicht-amerikanische Staatsangehörige trifft auch viele ausländische Anthropic-Beschäftigte. Sie dürfen aktuell nicht an dem Modell arbeiten.

Sacks streitet in seinem X-Post ab, dass die jetzige Entwicklung mit dem Streit zusammenhänge. Die US-Regierung schätze Anthropics technische Fähigkeiten sehr, „der Ball liegt nun bei Anthropic“. Diesen Ball – um im sprachlichen Bild zu bleiben – spielte die US-Regierung Anthropic auch im Februar zu, als das Unternehmen den Einsatz seiner Technologie für autonome Waffensysteme verweigerte und als Lieferkettenrisiko und Gefahr für die nationale Sicherheit eingestuft wurde. Anthropic wehrt sich dagegen vor Gericht. Ob das auch in diesem Fall passieren wird und ob die US-Regierung nun konsequenterweise jailbreakbare Modelle anderer KI-Hersteller ins Visier nimmt, bleibt abzuwarten. Das letztere sei aber unwahrscheinlich, will das News-Portal „The Information“ aus Regierungskreisen erfahren haben.

(nen)