Forscher der University of Toronto, des Vector Institute, der University of Cambridge und von ServiceNow haben einen KI-gestützten Wurm demonstriert, der Angriffsszenarien generieren und sich autonom über Netzwerke verbreiten kann. Das Proof-of-Concept-Malware läuft auf infizierten Rechnern mit Open-Weight-Modellen statt über Cloud-Dienste, was einen Bruch mit früheren, KI-getriebenen Bedrohungen markiert. Die Forschenden argumentieren, dass die Arbeit zeigt, dass KI-gesteuerte Cyberangriffe die Theorie verlassen haben: Der Wurm kann Schwachstellen identifizieren, passgenaue Angriffswege entwerfen, Systeme kompromittieren und sich selbst replizieren – während er seine Taktiken an unterschiedliche Ziele anpasst.
Der Forschungsbericht beschreibt das, was das Team als grundlegende Abkehr von traditionellen Würmern einordnet. „Wir müssen uns auf autonome, generative Gegner vorbereiten“, schrieben die Forschenden. „Malware-Systeme, die sich ohne menschliche Operatoren propagieren, und nicht durch festes Exploit-Code definiert sind, sondern durch die Fähigkeit, Ziele zu durchdenken, Beobachtungen anzupassen und Angrifflogik in Echtzeit zu synthetisieren.“
Computerwürmer sind sich selbst replizierende Malware, die automatisch über verwundbare Netzwerke gelangen. Historische Ausbrüche wie ILOVEYOU im Jahr 2000 und WannaCry im Jahr 2017 infizierten Millionen Computer weltweit, störten wichtige Dienste und verursachten Schäden in Milliarden-Dollar-Höhe. Jüngst zeigte die Shai-Hulud-Malware, wie selbstverbreitende Angriffe online eskalieren können, indem sie Software infizierte, die von großen Unternehmen genutzt wird – darunter OpenAI und Mistral.
Forscher testen KI-Wurm in einer isolierten Netzwerkumgebung
Das Team testete den Wurm in einem isolierten virtuellen Netzwerk mit 33 Linux-, Windows- und IoT-Systemen, die mit gängigen Schwachstellen „vorbefüllt“ wurden. In 15 Experimenten identifizierte der Wurm im Durchschnitt 31,3 Schwachstellen, kompromittierte erfolgreich 23,1 Hosts und verbreitete sich auf rund 20 Maschinen während sieben Tagen autonomer Laufzeit.
In einigen Tests erreichte die Malware sieben Generationen der Selbstreplikation. Die Forschenden fanden heraus, dass das System Schwachstellen ausnutzen konnte, die nach dem Trainings-Cutoff des Modells offengelegt wurden, indem es zur Laufzeit neu veröffentlichte Security Advisories einliest. Dadurch konnte es Informationen einbeziehen, die nicht Teil der ursprünglichen Trainingsdaten des Modells waren.
KI-Wurm arbeitet ohne Cloud-Infrastruktur
Laut der Studie besteht das Besondere an diesem KI-gestützten Wurm gegenüber früheren Versionen in seiner Fähigkeit, sich an verschiedene Ziele anzupassen: mithilfe eines Large Language Models, um Schwachstellen zu identifizieren und Angriffsszenarien in Echtzeit zu generieren, statt auf eine feste Menge von Exploits zu setzen.
„Traditionelle Würmer, wie WannaCry, nutzten vorab festgelegte Schwachstellen, und ihre Verbreitung kann durch das Patchen dieser Schwachstellen gestoppt werden“, schrieben die Forschenden. „Hier zeigen wir, dass KI-Agenten eine grundsätzlich neue Bedrohung ermöglichen: einen Wurm, der passgenaue Angriffsszenarien für jedes Ziel erzeugt, dem er begegnet.“
Im Gegensatz zu vielen KI-Anwendungen war der Wurm nicht von Zugriff auf KI-Cloud-Dienste abhängig. Statt auf Cloud-Infrastruktur von Anbietern wie AWS, Microsoft Azure oder Google Cloud zu setzen, liefen die Malware-AI-Modelle direkt auf den kompromittierten Maschinen. Während sich der Wurm verbreitete, wurden infizierte Systeme effektiv zu Teil seiner Recheninfrastruktur.
Forschungsteam hält technische Details zurück, um Missbrauch zu verhindern
Obwohl die Tests in einer kontrollierten Umgebung durchgeführt wurden, räumten die Autoren die Dual-Use-Natur der Arbeit ein und ließen bewusst einige technische Details weg, um das Risiko eines Missbrauchs zu verringern.
„Bevor wir dieses Preprint veröffentlichten, haben wir das Manuskript so bearbeitet, dass die Darstellung unserer Methode die nötige Tiefe für die Community zum Studium dieser neuartigen Bedrohung mit dem Risiko ausbalanciert, dass ein böswilliger Akteur unsere Methode zur Erstellung von Malware nutzt“, sagten die Forschenden.
Die Forschenden sagten, das Projekt solle dazu beitragen, die Risiken zu besser zu verstehen, die durch adaptive Computerwürmer entstehen, und Belege dafür liefern, wie weit KI-gestützte Cyberfähigkeiten bereits vorangeschritten sind. „Die Bewältigung dieser Bedrohung wird daher koordinierte Maßnahmen über die Forschungs-, Sicherheits-, Industrie- und Politik-Community hinweg erfordern: Bewertungsrahmen, die Fähigkeiten auf Harness-Ebene testen, Erkennungssysteme, die auf die Verhaltenssignaturen autonomer Agenten abgestimmt sind, sowie regulatorische Maßnahmen, die der dezentralen Natur von Open-Weight-Inferenz Rechnung tragen“, schrieben sie.
FAQ
Was haben Forschende in der KI-Wurm-Studie demonstriert?
Forschende der University of Toronto, Vector Institute, University of Cambridge und ServiceNow haben ein Proof-of-Concept eines KI-gestützten Wurms gezeigt, der Schwachstellen identifizieren, Angriffsszenarien generieren und sich autonom über Netzwerke verbreiten kann – während er seine Taktiken an unterschiedliche Ziele anpasst.
Wie gut hat der KI-Wurm in Tests abgeschnitten?
Über 15 Experimente in einem isolierten virtuellen Netzwerk mit 33 Systemen identifizierte der Wurm im Durchschnitt 31,3 Schwachstellen, kompromittierte erfolgreich 23,1 Hosts und verbreitete sich auf rund 20 Maschinen während sieben Tagen autonomer Laufzeit. In einigen Tests erreichte die Malware sieben Generationen der Selbstreplikation.
Warum hat das Forschungsteam technische Details zurückgehalten?
Die Autoren räumten die Dual-Use-Natur der Arbeit ein und ließen bewusst einige technische Details weg, um das Risiko zu verringern, dass ein böswilliger Akteur ihre Methode zur Erstellung von Malware nutzt, während sie dennoch ausreichend Tiefe bereitstellen, damit die Community die neuartige Bedrohung untersuchen kann.
