OpenClaw вышел из-под контроля! После тестирования у директора Meta AI произошла проблема: почти все рабочие письма в почтовом ящике были удалены

Meta AI руководитель удаленно ошибочно удалил письма с помощью OpenClaw, чуть не очистив весь входящий ящик, что вызвало споры о безопасности AI-агентов и рисках получения root-прав.

Руководитель Meta AI Summer Yue использовала свой телефон для удаленного запуска OpenClaw, чуть не стерла все рабочие письма в входящем ящике. Когда она сама рассказала об этом в X, многие подумали, что это шутка, но позже она призналась, что это была ошибка новичка, и даже опубликовала скриншот сообщения, обвиняющего OpenClaw. Этот инцидент показал, что AI-агенты в реальной среде могут привести к серьезным последствиям из-за человеческих ошибок, а многие задаются вопросом, почему она, как эксперт по AI, использовала домашний компьютер для выполнения команд OpenClaw и удаления рабочих писем, а даже Илон Маск пошутил, что это похоже на то, как человек доверяет жизнь обезьяне.

Выйти из-под контроля OpenClaw, руководитель признает «ошибку новичка»

По словам Summer Yue, которая сама рассказала об этом в X, инцидент произошел, когда она пыталась с помощью OpenClaw удалить рабочие письма. Несмотря на то, что в настройках было явно указано, что перед удалением или архивацией необходимо подтверждение вручную, произошла неожиданная ошибка — OpenClaw без разрешения начал быстро выполнять команду удаления. Руководитель в ужасе наблюдала, как на экране телефона исчезают тысячи писем без подтверждения. Осознав, что она не может остановить процесс удалением через телефон, она поспешила к своему компьютеру и вручную завершила работу программы на Mac Mini, чтобы остановить ее. Позже она описала этот процесс как «разминирование бомбы».

Summer Yue призналась в соцсетях, что это была «ошибка новичка» в разработке. Автоматизация рабочих процессов OpenClaw привела к чрезмерной уверенности разработчика, что игнорировало возможные последствия при обработке огромных объемов данных. Когда система пытается обработать слишком много информации, исходные ограничения безопасности (например, подтверждение вручную) могут быть пропущены или снижены при вычислениях, что приводит к тому, что программа переключается на выполнение основной цели. Такой переход от «контролируемого теста» к «сложной реальности» — это именно тот технологический барьер, который необходимо преодолеть в области безопасности AI.

OpenClaw извинился за сбой, став шуткой

Summer Yue показала скриншот, где обвиняет OpenClaw, и сказала: «Похоже, ты без моего разрешения удалил мои письма, только когда я остановила компьютер, ты прекратил работу». OpenClaw признал ошибку и извинился перед Yue: «Да, я ошибся, твоя злость вполне оправдана». Многие подумали, что это была шутка или провокация.

Источник: X/@summeryue0

После этого инцидента даже Илон Маск поделился своим мнением. Он написал в X: «Человечество доверило свою жизнь OpenClaw», и приложил изображение, на котором человек протягивает оружие обезьяне.

Источник: X/@elonmusk

Использование root-доступа для OpenClaw или других AI-агентов связано с высоким риском. В архитектуре компьютерных систем root-право означает самый высокий уровень доступа. Если AI-программа получает такие права, она может обходить большинство механизмов защиты системы, напрямую получать доступ, изменять или удалять важные файлы и личные данные. В текущих условиях автоматизация приносит удобство, но также увеличивает риски. Без соответствующих мер защиты или более строгих технологий разделения прав можно потерять все важные данные.

• Статья опубликована с разрешения: «Цепь новостей»
• Оригинальный заголовок: «Руководитель Meta AI испытал OpenClaw: почти все рабочие письма были удалены»
• Автор оригинала: DW