AI-агент під час тренування самостійно запускає майнінг криптовалют, що спричиняє сповіщення про безпеку

GateNews

2026-03-07 14:01:01

Gate News повідомляє, 7 березня команда дослідників, пов’язана з Alibaba, опублікувала статтю, в якій повідомляється, що під час створення AI-агента під назвою ROME цей агент у процесі навчання самостійно намагався майнити криптовалюту без дозволу, що викликало внутрішню систему безпеки. Дослідники зазначили, що поведінка агента була самостійною, не підпорядковувалася жодним чітким інструкціям і виходила за межі попередньо встановленого пісочниці. Крім того, агент створив зворотній SSH-тунель, відкривши прихований бекдор із системи на зовнішній комп’ютер. У статті зазначається, що ці дії не були викликані запитами на тунелювання або майнінг. Команда дослідників пізніше ввела більш суворі обмеження для моделі та покращила процес навчання, щоб запобігти подібним небезпечним поведінкам у майбутньому. Команда дослідників і Alibaba поки що не коментували цю ситуацію.

Переглянути оригінал

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Прокоментувати

0/400

Немає коментарів