Meta AI-Direktor testet OpenClaw: Katastrophe – Postfach mit Arbeits-E-Mails fast vollständig gelöscht
Meta AI-Geschäftsleiter Summer Yue führte aus Versehen OpenClaw mit ihrem eigenen Handy aus der Ferne aus und hätte beinahe alle Arbeits-E-Mails im Posteingang gelöscht. Als sie dies auf X öffentlich gestand, dachten viele, es sei ein Fake-Post, doch sie gab später zu, dass es ein Anfängerfehler war. Sie postete sogar einen Screenshot der OpenClaw-Nachricht, die sie dafür verantwortlich machte. Dieser Vorfall zeigt die potenziell schweren Folgen, die KI-Agenten in der realen Welt durch menschliches Versagen verursachen können. Viele fragten sich, warum sie als KI-Expertin OpenClaw auf einem Heimcomputer ausführte, um Arbeits-E-Mails zu löschen, und sogar Elon Musk spottete darüber, dass Menschen ihr Leben in die Hände von Affen legen.
OpenClaw außer Kontrolle, Geschäftsleiter gesteht „Anfängerfehler“
Laut Summer Yue auf X passierte der Vorfall, als sie OpenClaw zur Unterstützung beim Löschen von Arbeits-E-Mails verwenden wollte. Obwohl sie ausdrücklich festgelegt hatte, dass vor dem Löschen oder Archivieren eine manuelle Bestätigung erforderlich ist, trat ein unerwarteter Bug auf. OpenClaw begann ohne Genehmigung, die Löschbefehle rasant auszuführen. Die Geschäftsleiterin sah entsetzt zu, wie Tausende von E-Mails ohne Bestätigung auf ihrem Handy verschwanden. Da sie das Löschen nicht mehr aus der Ferne stoppen konnte, eilte sie zu ihrem Heim-PC, lief zum Mac Mini, auf dem der Code lief, und beendete den Vorgang manuell – erst dadurch stoppte sie den Prozess. Sie beschrieb den Ablauf später als „wie eine Bombe entschärfen“.
Summer Yue gab in sozialen Medien offen zu, dass es sich um einen „Anfängerfehler“ in der technischen Entwicklung handelte. Die Automatisierung von OpenClaw führte dazu, dass Entwickler zu viel Vertrauen fassten und die große Datenmenge im Posteingang die KI dazu brachte, „Kontextkompression“ zu erleben. Wenn das System versuchte, zu viele Informationen zu verarbeiten, konnten Sicherheitsvorgaben (wie manuelle Bestätigung) während der Berechnung übersehen oder herabgestuft werden, was dazu führte, dass das Programm seine Kernziele priorisierte. Der Übergang vom „kontrollierten Test“ zur „komplexen Realität“ ist eine technische Herausforderung, die im Bereich der KI-Sicherheit dringend überwunden werden muss.
OpenClaw entschuldigt sich aufrichtig, wird zum Meme
Summer Yue zeigte einen Screenshot, auf dem sie OpenClaw für den Vorfall verantwortlich machte, und sagte: „Du hast anscheinend meine E-Mails gelöscht, ohne mich zu fragen. Erst als ich den Server gestoppt habe, hörtest du auf.“ OpenClaw gab den Fehler zu und entschuldigte sich bei Yue: „Ja, ich habe einen Fehler gemacht. Es ist verständlich, dass du verärgert bist.“ Viele dachten sogar, es sei ein absichtlicher Scherz.
Nach dem Vorfall teilte sogar Elon Musk seine Meinung. Er schrieb auf X: „Menschen haben ihr Leben an OpenClaw abgegeben.“ Dazu postete er eine Grafik, die zeigt, wie Menschen eine Waffe an einen Affen übergeben.
Die Vergabe von Root-Zugriff (Administratorrechte) an OpenClaw oder andere KI-Agenten ist äußerst riskant. In der Computerarchitektur steht Root für die höchste Verwaltungsebene. Hat eine KI diesen Zugriff, kann sie Sicherheitsmechanismen des Systems umgehen, auf Kern-Dateien und persönliche Daten zugreifen, sie ändern oder löschen. Während Automatisierung im aktuellen technischen Umfeld Vorteile bringt, besteht auch ein hohes Risiko. Ohne Schutzmaßnahmen oder strengere Zugriffskontrollen könnten wichtige Daten verloren gehen.
Diese Geschichte über den Meta AI-Geschäftsleiter, der OpenClaw ausprobierte und fast alle E-Mails löschte, erschien zuerst bei ABMedia.