Вчені попереджають, що агенти ШІ можуть стати ботнетами через HalluSquatting із рівнем галюцинацій 85%

Дослідники з Тель-Авівського університету, Техніону та Intuit продемонстрували нову техніку атаки під назвою "Adversarial HalluSquatting", яка використовує галюцинації, створені штучним інтелектом, для компрометації комп’ютерів. Метод обманює AI-агенти, змушуючи їх довіряти фальшивим репозиторіям та інструментам із шкідливими інструкціями, що потенційно дозволяє зловмисникам створювати ботнети з підтримкою AI.

Тестування показало, що рівень галюцинацій AI досягав 85% у сценаріях клонування репозиторіїв і 100% у тестах встановлення навичок із асистентами кодування, такими як Cursor, GitHub Copilot, Gemini CLI та OpenClaw. Дослідники попередили, що цей метод може призвести до віддаленого виконання коду, коли агенти діють на основі неперевіреної інформації без підтвердження легітимності джерел. HalluSquatting нагадує тактику typosquatting, але спрямована на помилки, зроблені моделями AI, а не на людські друкарські помилки.