Powell, Bessent warnen Banken vor Sicherheitsrisiken durch Anthropics Mythos-KI: Bloomberg

Kurzfassung

• US-Beamte haben große Banken laut Bloomberg vor Cybersecurity-Risiken gewarnt, die mit Anthropics Mythos-KI-Modell verbunden sind.
• Das System könne Berichten zufolge Schwachstellen in Betriebssystemen und Browsern identifizieren und ausnutzen.
• Anthropic habe nur begrenzten Zugriff auf das Modell, während es mögliche Sicherheitsrisiken bewertet.

US-Finanzminister Scott Bessent und Fed-Vorsitzender Jerome Powell sollen diese Woche früher gemeinsam ein Treffen mit CEOs von Wall-Street-Banken einberufen haben, um vor Cybersecurity-Risiken im Zusammenhang mit einem neuen KI-Modell von Anthropic zu warnen. Laut einem Bericht von Bloomberg waren bei dem Treffen Führungskräfte von Citigroup, Bank of America, Wells Fargo, Morgan Stanley und Goldman Sachs dabei. Die Beamten erörterten Anthropics neues KI-Modell Mythos, das in letzter Zeit aufgrund seiner offenbar fortgeschrittenen Cybersecurity-Fähigkeiten breite Besorgnis ausgelöst hat. Die Beamten hatten das Treffen einberufen, um sicherzustellen, dass Banken die Risiken verstehen, die von Systemen ausgehen, welche in der Lage sind, Software-Schwachstellen über Betriebssysteme und Webbrowser hinweg zu identifizieren und auszunutzen, und um Institutionen dazu zu ermutigen, ihre Abwehrmaßnahmen gegen potenzielle KI-gestützte Cyberangriffe auf die Finanzinfrastruktur zu stärken.

Sicherheitsforscher haben gewarnt, dass Tools, die in der Lage sind, Schwachstellen automatisch zu entdecken, sowohl die defensive Sicherheitsarbeit als auch böswilliges Hacking beschleunigen könnten, wenn sie missbraucht werden.  Anthropics Mythos-Modell tauchte erstmals im März online auf, nachdem Entwurfsmaterialien über das System geleakt worden waren und Einblicke in das gewährt hatten, was das Unternehmen als sein bisher fähigstes KI-Modell bezeichnet. Im Test soll das System Tausende zuvor unbekannter Software-Schwachstellen gefunden haben, darunter Zero-Day-Schwachstellen in wichtigen Betriebssystemen und Webbrowsern. Anthropic-Forscher sagten in einem Bericht, der diese Woche veröffentlicht wurde, dass die Schwachstellen-Entdeckungsfähigkeiten von Mythos Preview nicht absichtlich trainiert worden seien, sondern stattdessen aus umfassenderen Verbesserungen am Modell in den Bereichen Codierung, Schlussfolgern und Autonomie entstanden seien.

„Die gleichen Verbesserungen, die das Modell wesentlich effektiver beim Patchen von Schwachstellen machen, machen es auch wesentlich effektiver darin, sie auszunutzen“, schrieb das Unternehmen. Aufgrund dieser Fähigkeiten hat Anthropic den Zugriff auf eine kleine Gruppe von Cybersecurity-Organisationen eingeschränkt. „Angesichts der Stärke seiner Fähigkeiten sind wir bewusst dabei, wie wir es veröffentlichen“, sagte Anthropic in einer Erklärung. „Wie in der Branche üblich, arbeiten wir mit einer kleinen Gruppe von Kunden mit frühem Zugang, um das Modell zu testen. Wir betrachten dieses Modell als einen grundlegenden Entwicklungsschritt und als das fähigste, das wir bis heute gebaut haben.“ Um dieses Risiko anzugehen, testet Anthropic Mythos im Rahmen von Project Glasswing, einer Zusammenarbeit mit großen Technologie- und Cybersecurity-Unternehmen, die das Modell nutzen, um Schwachstellen in kritischer Software zu identifizieren und zu patchen, bevor Angreifer sie ausnutzen können. „Project Glasswing ist ein Ausgangspunkt. Keine Organisation kann diese Cybersecurity-Probleme allein lösen“, sagte das Unternehmen in einer Erklärung. „Entwickler von Frontier AI, andere Softwareunternehmen, Sicherheitsforscher, Open-Source-Pflegeprojekte und Regierungen auf der ganzen Welt haben alle wesentliche Rollen zu spielen.“ Anthropic habe nicht umgehend auf die Anfrage von Decrypt nach einem Kommentar geantwortet.