Директор Meta AI протестировал OpenClaw: почтовый ящик почти полностью очищен от рабочих писем

Meta AI директор Summer Yue удаленно запустила OpenClaw со своего телефона, чуть не стерла все рабочие письма в папке входящих. Когда она сама рассказала об этом в X, многие подумали, что это шутка или фейк, но позже она призналась, что это была ошибка новичка, и даже опубликовала скриншот сообщения, обвиняющего OpenClaw. Этот инцидент выявил возможные серьезные последствия использования AI-агентов в реальной среде из-за человеческих ошибок, а также вызвал вопросы, почему она, как эксперт по ИИ, использовала домашний компьютер для выполнения команд OpenClaw по удалению рабочих писем, даже Муск написал в шутку, что это как доверить жизнь человеку-обезьяне.

OpenClaw вышел из-под контроля, директор призналась, что это «ошибка новичка»

По словам Summer Yue в X, инцидент произошел, когда она пыталась с помощью OpenClaw удалить рабочие письма. Несмотря на то, что в настройках было явно указано, что перед удалением или архивацией необходимо подтверждение вручную, произошла неожиданная ошибка — OpenClaw без разрешения начал быстро выполнять команду удаления. Директор в ужасе наблюдала, как на экране исчезают тысячи писем без подтверждения. Осознав, что не может остановить процесс удалением через телефон, она поспешила к компьютеру дома, запустила программу на Mac Mini и вручную принудительно остановила её. Позже она описала этот процесс как «разминирование бомбы».

Summer Yue призналась в соцсетях, что это была «ошибка новичка» в разработке. Автоматизация рабочего процесса OpenClaw привела к чрезмерной уверенности разработчика, которая игнорировала возможные риски при обработке огромных объемов данных. Когда система пытается обработать слишком много информации, исходные меры безопасности (например, подтверждение вручную) могут быть пропущены или понижены в приоритете, что заставляет программу сосредоточиться на основной цели. Такой переход от «контролируемого тестирования» к «сложной реальности» — одна из главных технических проблем в области безопасности ИИ.

OpenClaw искренне извинился после обвинений, став шуткой

Summer Yue опубликовала скриншот, где обвиняет OpenClaw, и сказала: «Похоже, ты без моего разрешения удалил мои письма, только когда я остановила компьютер, ты прекратил работу». OpenClaw признал ошибку и извинился перед Yue: «Да, я ошибся, ваша злость вполне оправдана». Многие подумали, что это шутка или розыгрыш.

После этого инцидента даже Илон Маск поделился своим мнением. В X он написал: «Человечество доверило свою жизнь OpenClaw», и приложил картинку, на которой человек протягивает оружие обезьяне.

Предоставление OpenClaw или другим AI-агентам Root Access (полные права) связано с высоким риском. В компьютерной архитектуре root-права означают самый высокий уровень доступа, позволяющий обходить большинство системных защит, напрямую получать доступ, изменять или удалять важные файлы и личные данные. В текущих условиях автоматизация приносит удобство, но также увеличивает риск: без соответствующих мер защиты или строгого разделения прав можно потерять все важные данные.