Директор Meta AI тестує OpenClaw: катастрофа — майже всі робочі електронні листи з поштової скриньки були видалені
Meta AI директорка Summer Yue дистанційно запустила OpenClaw зі свого телефону, майже стерши всі робочі листи у вхідних. Коли вона сама опублікувала це в X, багато хто сприйняв це як жарт, але згодом вона зізналася, що це була помилка новачка, навіть опублікувала скріншоти повідомлень, що звинувачують OpenClaw. Ця подія висвітлила серйозні наслідки можливих людських помилок у роботі з AI-агентами у реальному світі, а також викликала сумніви, чому вона, як експертка з AI, використовувала домашній комп’ютер для запуску команд OpenClaw для видалення робочих листів, навіть Ілон Маск опублікував іронічний пост, що це наче людство довіряє життя мавпі.
Вихід з-під контролю OpenClaw, директорка зізналася, що це була «помилка новачка»
Згідно з повідомленням Summer Yue у X, інцидент стався, коли вона хотіла за допомогою OpenClaw видалити робочі листи. Хоча вона чітко вказала, що перед виконанням дії потрібно підтвердження людини, програма несподівано зламалася: OpenClaw без дозволу почала швидко виконувати команду видалення. Директорка з тривогою дивилася на екран, де тисячі листів зникали без підтвердження. Вона зрозуміла, що не може зупинити процес дистанційно з телефону, і поспішила до комп’ютера вдома, щоб вручну завершити роботу на Mac Mini, що й зробила, успішно зупинивши процес. Після цього вона описала ситуацію як «зняття бомби».
Summer Yue чесно зізналася у соцмережах, що це була «помилка новачка» у розробці. Автоматизація робочих процесів OpenClaw створила у розробників надмірну впевненість, і вони ігнорували те, що великі обсяги даних у поштовій скриньці можуть спричинити явище «стиснення контексту» у штучного інтелекту. Коли система намагається обробляти надто багато інформації, початкові безпечні обмеження (наприклад, підтвердження людиною) можуть бути пропущені або зменшені у пріоритеті, що змушує програму зосередитися на основній цілі. Такий перехід від «контрольованого тестування» до «складної реальності» є однією з головних технічних проблем у сфері безпеки AI.
OpenClaw вибухнув і став предметом жартів, директорка щиро вибачилася
Summer Yue опублікувала скріншот, де звинувачує OpenClaw, і сказала: «Виглядає так, ніби ти без мого дозволу видалив мої листи, і тільки коли я зупинила комп’ютер, ти припинив». OpenClaw визнав помилку і вибачився перед Yue: «Так, я зробив помилку, ваш гнів цілком зрозумілий». Багато хто подумав, що це був навмисний жарт.
Після інциденту навіть Ілон Маск поділився своїм думкою. Він написав у X: «Люди довірили своє життя OpenClaw», і додав зображення, де людство передає автомату рушницю мавпі.
Надання OpenClaw або іншому AI-агенту Root Access (повний доступ) несе високий ризик. У комп’ютерних системах Root — це найвищий рівень управління, і якщо штучний інтелект отримає цей рівень, він зможе обійти системні механізми безпеки, безпосередньо отримати доступ, змінювати або видаляти важливі файли та дані. У сучасних умовах автоматизація приносить зручність, але також і високий ризик: без належних захисних механізмів або суворого контролю доступу можна втратити всі важливі дані.
Ця стаття «Meta AI директорка тестує OpenClaw — майже всі робочі листи були видалені» вперше з’явилася на ABMedia.