Anthropic muss seine KI-Modelle Fable 5 und Mythos 5 für alle Kunden weltweit abschalten. Auslöser ist nach Darstellung des Unternehmens eine Exportkontrolldirektive der US-Regierung, die am 12. Juni 2026 eingegangen sei und ausländischen Staatsangehörigen den Zugriff auf beide Modelle untersagt – auch ausländischen Anthropic-Mitarbeitern innerhalb der USA. Alle übrigen Claude-Modelle seien von der Anordnung nicht betroffen. Die Maßnahme reiht sich in eine bereits zuvor eskalierte Auseinandersetzung zwischen Anthropic und Teilen der US-Sicherheitsbürokratie ein.

Wie Anthropic in einer Stellungnahme erklärt, habe die Behörde keine konkreten technischen Details zu den angeführten nationalen Sicherheitsbedenken genannt. Nach dem Verständnis des Unternehmens geht die Regierung davon aus, dass eine Methode existiere, um Fable 5 zu „jailbreaken“, also dessen Schutzmechanismen zu umgehen. Anthropic bezeichnet die Maßnahme als „Missverständnis“ und arbeitet an der Wiederherstellung des Zugangs.

Die beanstandete Technik beschreibt Anthropic als verbal überlieferten, potenziell nicht-universellen Jailbreak. Im Kern bestehe er darin, das Modell anzuweisen, eine bestimmte Codebasis zu lesen und Softwarefehler zu beheben. Eine Demonstration dieser Technik habe man geprüft und dabei lediglich eine kleine Zahl bereits bekannter, geringfügiger Schwachstellen gefunden, die auch andere öffentlich verfügbare Modelle aufspüren könnten – das Unternehmen nennt in diesem Zusammenhang ausdrücklich OpenAIs GPT-5.5.

Aus Sicht von Anthropic handelt es sich dabei um eine alltägliche Fähigkeit, wie sie Sicherheitsfachleute täglich bei legitimen Code-Reviews und beim Bugfixing nutzen. Der entscheidende Unterschied liege nicht in der Funktion selbst, sondern im Kontext: Derselbe Vorgang könne in einem Sicherheitsreview erwünscht sein, in einem anderen Szenario aber als potenzieller Missbrauch gewertet werden. Einen universellen Jailbreak, der die Schutzmechanismen von Fable 5 grundsätzlich aushebelt, habe man bislang nicht gefunden.

„Defense in Depth“ und mehrstufige Classifier

Anthropic verweist auf eine sogenannte „Defense-in-Depth-Strategie“: Jailbreaks sollen entweder eng begrenzt oder sehr aufwendig sein und werden durch Monitoring ergänzt, das erfolgreiche Angriffe schnell erkennen soll. Für Fable 5 gelte zudem eine 30-tägige Datenspeicherungspflicht, um Umgehungsversuche analysieren und eindämmen zu können. Unser Test von Fable 5 bestätigt, dass Anthropic Classifier vor das eigentliche Modell schaltet und bei heiklen Eingaben teils auf das Vorgängermodell Opus 4.8 zurückfällt.

Die zuvor kommunizierten Schutzmaßnahmen seien in einer Vorabprüfung über Tausende Stunden Red-Teaming getestet worden – gemeinsam mit der US-Regierung, dem britischen AI Safety Institute (UK AISI), privaten Organisationen und internen Teams. Die Ergebnisse hätten deutlich über denen früherer Modelle gelegen. Eine vollständig unabhängige Auditierung, etwa durch europäische Forschungseinrichtungen, ist nach derzeitigem Stand allerdings nicht belegt: Eine komplette Offenlegung der Schutzlogik oder der internen Classifier-Architektur gab es nicht. Während Fable 5 mit zusätzlichen Schutzmechanismen für die öffentliche Nutzung versehen wurde, gilt Mythos als restriktivere Variante.

Anthropic räumt ein, dass perfekte Jailbreak-Resistenz für kein Modell erreichbar sei. Zugleich widerspricht das Unternehmen der Auffassung, dass ein einzelner „unwahrscheinlicher Jailbreak den Widerruf eines kommerziellen Modells mit Hunderten Millionen Nutzern rechtfertige“. Würde man diesen Maßstab branchenweit anlegen, käme das einem Stopp neuer Frontier-Modelle gleich.

Vorbelastetes Verhältnis zum Pentagon

Die jetzige Anordnung trifft auf ein bereits angespanntes Verhältnis. Anfang März 2026 hatte das US-Verteidigungsministerium Anthropic als „supply chain risk“ eingestuft. In einem aktuellen Blogbeitrag erklärte CEO Dario Amodei, man halte die Einstufung als „supply chain risk“ für rechtlich nicht tragfähig und wolle sie vor Gericht anfechten. Der zugrunde liegende US‑Statut 10 U.S.C. § 3252 sei eng auf spezifische Lieferkettenrisiken bei nationalen Sicherheitssystemen zugeschnitten und verlange, dass das Ministerium darlegt, warum weniger eingriffsintensive Maßnahmen („less intrusive measures“) nicht vernünftigerweise zur Verfügung stehen.

Der Konflikt drehte sich nach Anthropics Darstellung um die Weigerung, Claude uneingeschränkt für massenhafte inländische Überwachung und vollautonome Waffensysteme freizugeben. Ob die aktuelle Exportdirektive primär eine Sicherheitsmaßnahme oder politischer Druck auf einen renitenten Anbieter ist, lässt sich aus den veröffentlichten Quellen nicht beweisen. Plausibel erscheint jedoch, dass der vorangegangene Streit das Verhältnis erheblich verschlechtert und die Eskalation begünstigt hat.

Für hiesige Anbieter ist ein direkt vergleichbarer, einzelmodellbezogener Eingriff in der EU nicht ersichtlich. Während das US-Exportkontrollrecht auf außenwirtschaftliche Zugriffssperren zielt, verfolgt der EU AI Act einen risikobasierten Ansatz mit Marktaufsicht, Transparenz- und Dokumentationspflichten. In Deutschland soll die Bundesnetzagentur die zentrale Marktüberwachungsbehörde werden; den entsprechenden Gesetzentwurf (KI-MIG) hat der Bundestag am 11. Juni 2026 beschlossen, die Zustimmung des Bundesrats steht noch aus. Eine globale Abschaltung eines einzelnen Modells als Maßnahme der Exportkontrolle ist in dieser Logik so nicht vorgesehen.

(vza)