Anthropic erhielt am späten Freitag eine Exportkontroll-Anweisung, die das Unternehmen anordnete, den Zugang zu seinen neuesten Claude-Modellen, Fable 5 und Mythos 5, für Ausländer jeglicher Nationalität auszusetzen – sowohl innerhalb als auch außerhalb der Vereinigten Staaten, einschließlich ausländischer Anthropic-Mitarbeiter. Die Trump-Regierung berief sich auf zuständige Stellen für nationale Sicherheit, nannte jedoch laut Anthropic keine konkreten Bedenken. Die Anweisung traf nur wenige Tage nachdem Anthropics CEO Dario Amodei einen Essay veröffentlicht hatte, in dem er für ernstere und verbindlichere KI-Regulierung eintrat – einschließlich der Möglichkeit, Modelle zu blockieren, wenn sie als unsicher eingestuft werden. Das Wall Street Journal berichtete, der Schritt sei durch Gespräche ausgelöst worden, die Amazon-CEO Andy Jassy mit US-Vertretern geführt habe, darunter Schatzamtsminister Scott Bessent, in denen Jassy sagte, Amazon-Forscher hätten Prompts genutzt, um Fable 5 dazu zu bringen, Informationen auszugeben, die Cyberangriffe unterstützen könnten. Das Unternehmen, das inzwischen mit nahezu 1 Billion US-Dollar bewertet wird, hat über Jahre hinweg seine Sicherheitsorientierung herausgestellt, ist aber zum zweiten Mal in diesem Jahr ins Visier der Trump-Regierung geraten.
Trump-Regierung erlässt Exportkontroll-Anweisung aus Gründen der nationalen Sicherheit
Die Anweisung kam etwa 10 Tage, nachdem Präsident Donald Trump eine KI-Exekutivverordnung unterzeichnet hatte, in der Unternehmen gebeten wurden, freiwillig Modelle an die Bundesregierung zu übermitteln, um deren Fähigkeiten vor einer vollständigen Veröffentlichung zu bewerten. Die Anordnung gab den Regierungsvertretern außerdem 60 Tage Zeit, um die relevanten Prüfungsrahmen für KI-Unternehmen zu entwickeln und aktuell zu halten, die diese berücksichtigen sollten. Es gibt keine Hinweise darauf, dass die erzwungene Aussetzung der neuesten Anthropic-Modelle mit der Exekutivverordnung zusammenhing.
Laut dem Wall Street Journal, unter Berufung auf Personen, die mit dem Vorgang vertraut sind, sagte Amazon-CEO Andy Jassy der Regierung, dass Amazon-Forscher eine Reihe von Prompts genutzt hätten, um Fable 5 dazu zu bringen, Informationen auszugeben, die Cyberangriffe unterstützen könnten. Das Unternehmen lobte die vorige Veröffentlichung der Trump-KI-Exekutivverordnung durch die Regierung in diesem Monat als „wichtigen Schritt“.
Anthropic erklärte als Reaktion, man widerspreche der Auffassung, dass das Ergebnis der Trump-Regierung ein Grund für einen Rückruf sei, und bezeichnete die Störung als „Missverständnis“. In einem Blogbeitrag schrieb das Unternehmen: „Wie wir öffentlich gesagt haben, glauben wir, dass die Regierung die Fähigkeit haben sollte, unsichere Deployments zu blockieren – im Rahmen eines gesetzlichen Prozesses, der transparent, fair, klar und auf technischen Fakten basiert. Diese Aktion entspricht nicht diesen Grundsätzen.“
Daniel Remler, Senior Fellow am Center for a New American Security, sagte gegenüber CNBC: „Das sieht ziemlich zwingend aus, wenn es Konsequenzen dafür gibt, nicht das zu tun, was die Regierung sagt.“ Er ergänzte: „Von einer Umgebung, in der es überhaupt keine Kontrollen für den Modellzugang gab, hin dazu, im Grunde dieses Tool zu nutzen, um das Modell eines einzelnen Unternehmens in nur wenigen Stunden herunterzunehmen, ist ziemlich bemerkenswert.“
Anthropic-Manager treffen sich mit Vertretern der Trump-Regierung
Hochrangige Anthropic-Mitarbeiter flogen am Montag nach Washington, D.C., um sich mit Mitgliedern der Trump-Regierung zu treffen. Das Unternehmen teilte CNBC mit, dass „beide Seiten schnell daran arbeiten, das zu lösen“. Anthropic hat noch nicht gesagt, wann es erwartet, dass die Modelle wieder online gehen.
Laut einer mit den Gesprächen vertrauten Person, die nicht namentlich genannt werden wollte, um vertrauliche Angelegenheiten zu besprechen, habe Anthropic mit Regierungsbehörden zusammengearbeitet, um die Modelle vor der Veröffentlichung zu testen, und die Genehmigung erhalten, sie einzusetzen. Vonseiten der Regierung habe es keine Mitteilung über eine nationale Sicherheitsbedrohung gegeben, so die Person.
Fable 5 und Mythos 5 bauten auf der April-Veröffentlichung von Claude Mythos Preview auf, einem leistungsstarken Angebot, das sich besonders darin auszeichnet, Sicherheitslücken in Software zu identifizieren. Anthropic begrenzte den Rollout auf eine ausgewählte Gruppe von Unternehmen im Rahmen einer Cybersicherheitsinitiative namens Project Glasswing. Mythos 5 war zwar weiterhin auf eine ausgewählte Gruppe von Nutzern beschränkt, doch Anthropic machte Fable 5 für seine Enterprise-Kunden und bezahlenden Abonnenten verfügbar. Das Unternehmen sagte, die breite Veröffentlichung sei dank neuer Schutzmaßnahmen möglich, die Antworten in bestimmten Bereichen mit hohem Risiko blockieren – darunter Cybersicherheit und Biologie.
Branchenführer reichen offenen Brief ein, um die Rücknahme der Anweisung zu fordern
Alex Stamos, Chief Product Officer bei Corridor und der ehemalige Sicherheitschef bei Facebook, verfasste einen offenen Brief zu „transparenten KI-Cyber-Schutzmaßnahmen“, adressiert an den Handelsminister Howard Lutnick und den National Cyber Director Sean Cairncross. Der Brief, der von mehr als 150 Führungskräften und technischen Leitern unterzeichnet wurde, fordert, dass die Exportkontroll-Anweisung aufgehoben wird.
Stamos sagte CNBC in einem Interview, Regeln müssten „auf der Wissenschaft basieren“. Er erklärte: „Diese Regeln müssen aufgeschrieben und transparent sein. Das ist nicht passiert. Es gibt nichts, was Anthropic oder irgendjemand sonst ansehen kann, um zu sagen, was ich tun darf und was nicht.“ Er fügte hinzu, dass bei jedem amerikanischen Unternehmen „die Angst ist, dass man jederzeit, wenn man sich mit der Regierung nicht gut stellt, auf Grundlage einer völlig willkürlichen Entscheidung willkürlich abgeschaltet werden kann“.
David Sacks, ein Venture-Capitalist, der zuvor als Trumps KI- und Krypto-Beauftragter diente, schrieb auf X, dass die „verharmlosende Sprache“ im Blogbeitrag des Unternehmens nicht zu seiner Marke als „KI-Sicherheitsunternehmen“ passe. Sacks erklärte: „Die Admin bewertet Anthropics technische Fähigkeiten und ist der Ansicht, dass dieses Thema, obwohl ernst, leicht gelöst werden kann. Der Ball liegt bei Anthropic.“
Einstufung des Lieferkettenrisikos im Verteidigungsministerium bleibt trotz Klage unter Gerichtsbarkeit
In diesem Jahr ging Anthropic eine öffentlichkeitswirksame Auseinandersetzung mit dem Verteidigungsministerium ein. Das DOD erklärte Anthropic im März zu einem Risiko für Lieferketten – eine Einstufung, die Verteidigungsauftragnehmer dazu verpflichtet, zu zertifizieren, dass sie Claude-Modelle nicht in ihrer Arbeit mit dem Militär einsetzen werden. Anthropic verklagte die Trump-Regierung, um die Einstufung als Lieferkettenrisiko rückgängig zu machen. Dieses Verfahren läuft noch.
In einem Beitrag auf X am Samstag sprach Verteidigungsminister Pete Hegseth über die neueste Anweisung der Regierung und schrieb, „jeder vergehende Tag“ beweise, warum das „Blacklisting von Anthropic“ „der richtige Schritt“ gewesen sei.
Das Unternehmen und sein wichtigster Rivale, OpenAI, hatten beide kürzlich vertraulich ihre IPO-Prospekte eingereicht und stellten damit möglicherweise historische Anteilverkäufe für Anleger in Aussicht, die in die KI einsteigen möchten.
FAQ
Was hat die Trump-Regierung Anthropic am späten Freitag befohlen zu tun?
Die Trump-Regierung erließ am späten Freitag eine Exportkontroll-Anweisung, die Anthropic anordnete, den Zugang zu seinen neuesten Claude-Modellen, Fable 5 und Mythos 5, für Ausländer jeglicher Nationalität auszusetzen – sowohl innerhalb als auch außerhalb der Vereinigten Staaten, einschließlich ausländischer Anthropic-Mitarbeiter. Die Regierung berief sich auf zuständige Stellen für nationale Sicherheit, nannte jedoch laut Anthropic keine konkreten Bedenken.
Warum hat die Trump-Regierung die Exportkontroll-Anweisung gegen Anthropic erlassen?
Laut dem Wall Street Journal, unter Berufung auf Personen, die mit dem Vorgang vertraut sind, wurde der Schritt durch Gespräche angestoßen, die Amazon-CEO Andy Jassy mit US-Vertretern geführt hatte, darunter Schatzamtsminister Scott Bessent. Jassy sagte der Regierung, dass Amazon-Forscher eine Reihe von Prompts genutzt hätten, um Fable 5 dazu zu bringen, Informationen auszugeben, die Cyberangriffe unterstützen könnten. Die Trump-Regierung berief sich auf zuständige Stellen für nationale Sicherheit, nannte jedoch keine konkreten Bedenken.
Was tut Anthropic, um die Exportkontroll-Anweisung zu lösen?
Hochrangige Anthropic-Mitarbeiter flogen am Montag nach Washington, D.C., um sich mit Mitgliedern der Trump-Regierung zu treffen. Das Unternehmen teilte CNBC mit, dass „beide Seiten schnell daran arbeiten, das zu lösen“. Anthropic hat noch nicht gesagt, wann es erwartet, dass die Modelle wieder online gehen.
