Anthropic Mythos ist zu mächtig! Das Weiße Haus soll eine Genehmigung durch eine staatliche Sicherheitsprüfung verlangen, bevor ein neues KI-Modell veröffentlicht wird

Der Regierung von Trump verfolgt seit Langem eine Haltung der Nichteinmischung gegenüber Künstlicher Intelligenz; nun plant sie jedoch, angesichts von Sicherheitsbedenken im Netz, die durch das starke Modell Mythos ausgelöst wurden, das Anthropic kürzlich veröffentlicht hat, vor einer öffentlichen Freigabe von KI-Modellen ein behördliches Prüfverfahren einzuführen. Das steht sinnbildlich für einen großen Richtungswechsel in der US-KI-Regulierung.

Wechsel der Weißen Haus-KI-Politik: von Freiheit zu Regulierung

Laut einem Bericht der New York Times haben US-Beamte enthüllt, dass Präsident Trump eine Exekutivverordnung in Erwägung zieht, mit der eine AI-Taskforce eingerichtet werden soll, die sich aus Führungskräften der Tech-Industrie und Regierungsvertretern zusammensetzt, um die behördlichen Prüfabläufe zu erarbeiten, die vor der öffentlichen Außerkraftsetzung neuer KI-Modelle durch die Regierung angewendet werden.

Das Weiße Haus habe bereits letzte Woche Gespräche mit Führungskräften von Unternehmen wie Anthropic, Google und OpenAI über entsprechende Pläne geführt; informierte Personen zufolge könnte sich das potenzielle Prüfverfahren an dem bestehenden britischen Modell orientieren, bei dem mehrere Regierungsstellen gemeinsam sicherstellen, dass KI-Modelle bestimmte Sicherheitsstandards erfüllen.

Der Umschwung dieser Politik steht im Kontrast zu Trumps früherer offener Haltung: Letztes Jahr im Juli erklärte er erst öffentlich: „Wir müssen dieses Baby heranwachsen und gedeihen lassen, und wir dürfen es nicht mit dummen Vorschriften aufhalten“, und nachdem er sein Amt angetreten hatte, schaffte er rasch die Aufsichtsprozesse der Biden-Regierung ab, die von KI-Entwicklern Sicherheitsbewertungen verlangten. Doch in nur wenigen Monaten hat sich die Richtung der Politik bereits geändert.

Das von Anthropic nicht offen veröffentlichte „Claude Mythos“ erschüttert das Weiße Haus

Ein Grund für den Kurswechsel der Weißen Haus sei unter anderem, dass Anthropic im vergangenen Monat ein neues KI-Modell namens Claude Mythos veröffentlicht hat. Anthropic warnte, dass Mythos extrem starke Fähigkeiten zur Identifizierung von Software-Sicherheitslücken besitzt, stark genug, um Schwächen bei „allen gängigen Betriebssystemen und Webbrowsern“ auszunutzen, was zu groß angelegten Cyberangriffen führen könnte. Am Ende entschied man sich daher, Mythos nicht öffentlich zu veröffentlichen.

Das Weiße Haus ist deswegen in höchster Alarmbereitschaft und befürchtet, dass die Regierung bei einem verheerenden KI-Cyberangriffsereignis mit gravierenden politischen Folgen konfrontiert würde. Einige Beamte bewerten zudem aktiver, ob sich ein Mechanismus etablieren lässt, bei dem „die Regierung zuerst Zugriff“ erhält: So könnten Bundesbehörden bereits vor der öffentlichen Freigabe eines Modells zuerst Zugriff bekommen, um sicherzustellen, dass der militärische und nachrichtendienstliche Wert des neuen Modells für das Pentagon nutzbar gemacht werden kann.

（Das waffenfähige Sicherheitsmodell Mythos von Anthropic wird ohne Genehmigung abgerufen: Wie haben sie das geschafft?）

Rechtsstreit zwischen Anthropic und dem Pentagon

Als Hintergrund der politischen Anpassung kommt zudem noch ein heikler Rechtsstreit zwischen Regierung und Unternehmen hinzu. Im Februar dieses Jahres führten Anthropic und das Pentagon Verhandlungen über einen Vertrag im Wert von 200 Millionen US-Dollar. Anthropic entschied sich jedoch, die Anforderungen der Trump-Regierung abzulehnen. Das US-Verteidigungsministerium nahm daraufhin Anthropic als „Risiko in der Sicherheitsversorgungs-Kette“ in eine Liste auf; Anthropic reichte anschließend eine Klage ein, um diesen Schritt zu verhindern.

Letzten Monat empfingen der Stabschef des Weißen Hauses, Susie Wiles, und Finanzminister Bessent in der Residenz des Weißen Hauses Anthropics CEO Dario Amodei. Dabei lag der Fokus auf der Frage, wie die Regierung die Nutzung der Anthropic-Technologie wiederherstellen kann; beide Seiten beschrieben das Gespräch danach als „produktiv“.

Der KI-Rüstungswettlauf beschleunigt, die Regulierungsarchitektur wartet noch

Im März hat die Trump-Regierung insgesamt 13 Tech-Führungskräfte, darunter Meta-CEO Zuckerberg, Nvidia-CEO Huang Renxun und Oracle-Gründer Larry Ellison, in einen neuen KI-Beratungsausschuss des Weißen Hauses berufen. Gleichzeitig veröffentlichte sie einen legislativen Rahmen, der das US-Kapitol dazu auffordert, eine landesweit einheitliche KI-Politik zu schaffen, um die in den einzelnen Bundesstaaten verstreuten Regelungen zu ersetzen.

Letzte Woche gab außerdem das Pentagon bekannt, dass es mit OpenAI, Google, Nvidia, SpaceX, Microsoft, Amazon und Reflection eine Vereinbarung getroffen hat, um die oben genannten KI-Tools in ein geheimes Netzwerk des Verteidigungsministeriums zu deployen. Diese sollen eingesetzt werden, um Datenanalysen zu verbessern, die Lageerfassung an der Front zu steigern und Soldaten bei Entscheidungen in komplexen Operationsumgebungen zu unterstützen.

Das zeigt, dass – unabhängig davon, wie sich die Regulierungsrichtlinien entwickeln – die Ausweitung der militärischen KI-Anwendung durch die US-Regierung bereits eine festgelegte Linie ist. Wie jedoch die Balance zwischen Förderung von Innovation und Eindämmung von Risiken gefunden werden kann, bleibt die schwierigste Aufgabe, die vor dem Weißen Haus liegt.

Dieser Artikel Anthropic Mythos ist zu stark! Das Weiße Haus plant, neue KI-Modelle vor der Veröffentlichung einem behördlichen Sicherheits-Check zu unterziehen, erschien zuerst in Chain News ABMedia.