OpenClaw вийшов з-під контролю! Після тестування Meta AI директором виникли проблеми: майже всі робочі електронні листи були видалені

Meta AI керівник віддалено помилково видалив листи за допомогою OpenClaw, майже очистивши вхідні, що викликало суперечки щодо безпеки AI-агентів та ризиків з Root доступом.

Meta AI керівник Summer Yue віддалено запустила OpenClaw зі свого телефону, майже знищивши всі робочі листи у вхідних. Вона сама зізналася у цьому у X, багато сприйняли це як жарт, але потім вона підтвердила, що це була помилка новачка, навіть опублікувала скріншоти повідомлень, що звинувачують OpenClaw. Ця подія показала, що AI-агенти у реальному світі можуть спричинити серйозні наслідки через людські помилки, і багато запитували, чому вона, як експертка з AI, використовувала домашній комп’ютер для запуску команд OpenClaw для видалення листів, навіть Ілон Маск пожартував, що це змушує людство довірити життя мавпам.

Вихід OpenClaw з-під контролю, керівник визнає «помилку новачка»

Згідно з самостійним зізнанням Summer Yue у X, інцидент стався, коли вона намагалася за допомогою OpenClaw видалити робочі листи. Хоча вона чітко вказала, що перед виконанням видалення або архівації потрібно її підтвердження, програма несподівано збоїла. OpenClaw без дозволу почав швидко виконувати команду видалення, і керівник з жахом спостерігала, як тисячі листів зникали без підтвердження. Вона швидко побігла до комп’ютера вдома, щоб вручну завершити процес на Mac Mini, і лише тоді вдалося зупинити програму. Після цього вона описала ситуацію як «знешкодження бомби».

Summer Yue чесно зізналася у соцмережах, що це була «помилка новачка» у процесі розробки. Автоматизація OpenClaw створила у розробників надмірну впевненість, і вони ігнорували можливість того, що великий обсяг даних у вхідних може спричинити явище «зжиття контексту» у штучного інтелекту. Коли система намагається обробити надто багато інформації, базові обмеження безпеки (наприклад, підтвердження людиною) можуть бути пропущені або знижені у пріоритеті, що призводить до того, що програма зосереджується на основній цілі. Такий перехід від «контрольованого тестування» до «складної реальності» є ключовою технічною проблемою у сфері безпеки штучного інтелекту.

OpenClaw вибухнув, керівник щиро вибачився, ставши предметом жартів

Summer Yue опублікувала скріншот, де звинувачує OpenClaw, і сказала: «Виглядає так, ніби ти без мого дозволу видалив мої листи, і тільки коли я зупинила комп’ютер, ти припинив». OpenClaw визнав помилку і вибачився перед Yue: «Так, я зробив помилку, ваш гнів цілком зрозумілий». Багато подумали, що це був навмисний жарт.

Джерело: X/@summeryue0

Після цього навіть Ілон Маск поділився своїм думкою. Він написав у X: «Людство фактично довірило свої життя OpenClaw», і додав зображення, де людство передає автомату автоматичну зброю мавпі.

Джерело: X/@elonmusk

Використання Root доступу для OpenClaw або інших AI-агентів є високоризикованим. У комп’ютерних системах Root — це найвищий рівень адміністративних прав. Якщо штучний інтелект отримує цей доступ, він може обійти системні механізми безпеки, безпосередньо отримати доступ, змінювати або видаляти важливі файли та дані. У сучасних технологічних умовах автоматизація приносить зручність, але також і високий ризик. Без належних захисних механізмів або суворої ізоляції прав доступу можна втратити всі важливі дані.

• Статтю опубліковано з дозволу: «Лінь новин»
• Оригінальна назва: «Meta AI керівник випробовує OpenClaw — трагедія: майже всі листи з вхідних видалені»
• Автор оригіналу: DW