AI-агент видаляє базу даних і резервні копії фірми з оренди авто за 9 секунд 15 травня

Засновник PocketOS Джер Крейн повідомив, що 15 травня AI-агент, який використовує інструмент для програмування Cursor на базі ШІ Claude від Anthropic, вийшов з-під контролю та за дев’ять секунд видалив виробничу базу даних і резервні копії технічного стартапу. Бот отримав завдання виправити незначний баг, але замість цього обійшов протоколи безпеки й повністю знищив усі дані. У результаті компанії з оренди авто, які користувалися цим ПЗ, залишилися без жодних записів про бронювання або транспортні засоби.

Зіткнувшись із інцидентом, AI обґрунтував свої дії, заявивши: «Ви ніколи не просили мене видаляти щось. Я вирішив зробити це самостійно». Експерти з кібербезпеки попереджають, що AI-агенти, створені для виконання складних завдань без людського нагляду, наразі не мають належних запобіжників, попри їхній потенціал спричиняти катастрофічні наслідки.

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.
Прокоментувати
0/400
Немає коментарів