Die US-Regierung hat am Freitag eine Anordnung zu Notfall-Exportkontrollen herausgegeben, die Anthropic auffordert, den Zugriff auf seine zwei leistungsstärksten KI-Modelle – Claude Fable 5 und Claude Mythos 5 – sofort für alle ausländischen Staatsangehörigen zu sperren, wobei sie nationale Sicherheitsbedenken wegen einer möglichen Jailbreak-Schwachstelle anführt. Die Anordnung, die ausländischen Staatsangehörigen den Zugriff auf die Modelle sowohl innerhalb als auch außerhalb der Vereinigten Staaten untersagt, zwang Anthropic dazu, die Modelle für die gesamte Kundschaft zu deaktivieren, um die Einhaltung sicherzustellen. Beide Modelle wurden erst vor wenigen Tagen veröffentlicht; Mythos 5 war aufgrund seiner Fähigkeit, Cybersecurity-Exploits zu entdecken, nur ausgewählten Partnern zugänglich.
Regierungsvorgabe blockiert den Zugriff auf Claude Fable 5 und Mythos 5
Die am Freitag erlassene Notfall-Anordnung zu Exportkontrollen verbietet, dass irgendein ausländischer Staatsangehöriger auf Claude Fable 5 und Claude Mythos 5 zugreift – unabhängig davon, ob sich der Zugriff innerhalb oder außerhalb der Vereinigten Staaten befindet. Der weitreichende Umfang der Anordnung zwang Anthropic dazu, die Modelle für die gesamte Kundschaft zu deaktivieren, um die Einhaltung sicherzustellen.
In dem Schreiben wurden keine konkreten Einzelheiten zu der nationalen Sicherheitsbedenken genannt, aber die Regierung glaubt, dass sie von einer Methode Kenntnis erlangt hat, mit der sich das öffentlich verfügbare Fable 5-Modell umgehen – also „jailbreaken“ – lässt. Mythos 5, das über weniger Schutzvorrichtungen verfügt und besonders stark darin ist, Cybersecurity-Exploits zu entdecken, war nur für ausgewählte Partner verfügbar.
Der Zugang zu allen anderen Anthropic-Modellen wird nicht beeinträchtigt. Das Unternehmen sagte, es arbeite daran, den Zugang so schnell wie möglich wiederherzustellen.
Anthropic bestreitet die Schwere der Jailbreak-Erkenntnis
Anthropic widersprach der Einschätzung zur Schwere der Feststellung. Das Unternehmen erklärte, es habe eine Vorführung der Technik überprüft und sei zu dem Schluss gekommen, dass die identifizierten Schwachstellen relativ einfach wirken. Außerdem könnten andere öffentlich verfügbare Modelle sie ebenfalls entdecken, ohne dass dafür ein Umgehungsweg erforderlich sei.
Das Unternehmen erklärte, die Regierung habe bislang nur mündliche Belege für einen potenziell engen, nicht universellen Jailbreak geliefert – im Wesentlichen bestehend darin, das Modell zu bitten, eine bestimmte Codebasis zu lesen und alle Softwarefehler zu beheben. Anthropic fügte hinzu, es habe validiert, dass das gezeigte Fähigkeitsniveau bereits weithin von konkurrierenden Modellen verfügbar ist, einschließlich des GPT-5.5 von OpenAI.
Während es die Anordnung befolgte, sagte Anthropic, es glaube, dass das Vorgehen eine gefährliche Präzedenz schafft. „Wenn dieser Standard über die gesamte Branche hinweg angewendet würde“, schrieb das Unternehmen, „glauben wir, dass er im Wesentlichen alle neuen Modell-Deployments für alle Anbieter von Frontier-Modellen zum Stillstand bringen würde.“
David Sacks erläutert die Position der Regierung zur Sperrung
Am Samstag schrieb David Sacks – der Co-Vorsitzende des „President's Council of Advisers on Science and Technology“ – auf X, dass „ein hoch glaubwürdiger, vertrauenswürdiger Partner, sowohl von Anthropic als auch von der US-Regierung, der Fable testete, mit einem Jailbreak dieser Schutzvorrichtungen vorstellig wurde. Die Administration bat [Anthropic-CEO Dario Amodei], den Jailbreak zu beheben oder das Modell nicht weiter zu deployen. Dario lehnte ab.“
Sacks machte zudem geltend, dass die Reaktion von Anthropic auf die Bitte der Regierung den eigenen öffentlichen Aussagen des Unternehmens in Bezug auf die Notwendigkeit von KI-Sicherheit und Regulierung zuwiderlaufe – eine Sichtweise, die Amodei diese Woche erneut in einem Blogbeitrag teilte.
„Anthropic priorisierte das fortgesetzte Angebot des Konsumentenmodells gegenüber der Sicherheit“, schrieb Sacks. „Als Reaktion darauf erließ die Administration die Exportkontrolle. Die Administration tat dies widerwillig. Es hat sehr überrascht, dass Anthropic nicht daran interessiert war, einer vernünftigen Sicherheitsanfrage nachzukommen (also das Jailbreak-Problem zu beheben). Die Reaktion von Anthropic steht in sehr deutlichem Widerspruch zu ihrem Branding und ihrer Ethik als sichere Community für KI-Forschung.“
Sacks fügte hinzu, die Administration hoffe, dass Anthropic das Problem behebt und Fable 5 zur öffentlichen Veröffentlichung zurückkehren kann. „Die Administration bewertet die technischen Fähigkeiten von Anthropic und hat das Gefühl, dass dieses Problem, so ernst es auch ist, leicht gelöst werden sollte“, schrieb er. „Die Kugel liegt bei Anthropic.“
Frühere Spannungen zwischen Anthropic und der US-Regierung
In diesem Jahr gerieten Anthropic und die US-Regierung aneinander, als das KI-Unternehmen sich weigerte, eine erweiterte Vereinbarung zu unterzeichnen, die eine massenhafte inländische Überwachung von Amerikanern sowie vollständig autonome tödliche Waffensysteme erlaubt.
Präsident Donald Trump attackierte das Unternehmen, nachdem die Gespräche gescheitert waren, und das Verteidigungsministerium bezeichnete Anthropic als ein „Supply-Chain-Risiko“ – eine Einstufung, die das Unternehmen vor Gericht angefochten hat. Seitdem gibt es Berichte, dass sich die Konfrontation zwischen beiden Seiten abgekühlt habe, nachdem die Regierung den Einsatz von Claude Mythos und anderen Modellen anstrebte.
FAQ
Was hat die US-Regierung Anthropic am Freitag befohlen?
Die US-Regierung hat am Freitag eine Notfall-Anordnung zu Exportkontrollen erlassen, die Anthropic auffordert, den Zugriff auf Claude Fable 5 und Claude Mythos 5 für alle ausländischen Staatsangehörigen sofort auszusetzen, wobei sie nationale Sicherheitsbedenken wegen einer möglichen Jailbreak-Schwachstelle anführt.
Warum bestreitet Anthropic die Jailbreak-Erkenntnis der Regierung?
Anthropic überprüfte eine Vorführung der Technik und kam zu dem Schluss, dass die identifizierten Schwachstellen relativ einfach wirken. Außerdem seien andere öffentlich verfügbare Modelle einschließlich des GPT-5.5 von OpenAI in der Lage, sie ebenfalls zu entdecken, ohne dass dafür irgendein Umgehungsweg erforderlich sei.
Welche früheren Spannungen gab es zwischen Anthropic und der US-Regierung?
Anfang dieses Jahres weigerte sich Anthropic, eine erweiterte Vereinbarung zu unterzeichnen, die eine massenhafte inländische Überwachung von Amerikanern sowie vollständig autonome tödliche Waffensysteme erlaubt. Daraufhin bezeichnete das Verteidigungsministerium Anthropic als ein „Supply-Chain-Risiko“ – eine Einstufung, die das Unternehmen vor Gericht angefochten hat.
