テルアビブ大学、テクニオン、インテュイットの研究者たちは、「Adversarial HalluSquatting（敵対的ハルー・スクワッティング）」と呼ばれる新しい攻撃手法を提案しました。この手法は、AIが生成する幻覚を悪用してコンピュータを危険にさらすものです。この技術は、AIエージェントに偽のソフトウェアリポジトリや悪意のある指示を含むツールを信頼させることで、攻撃者がAIを利用したボットネットを構築する可能性を秘めています。
テストでは、リポジトリのクローン作成シナリオにおいてAIの幻覚発生率が85％に達し、Cursor、GitHub Copilot、Gemini CLI、OpenClawなどのコーディングアシスタントに対するスキルインストールテストでは100％に達しました。研究者たちは、この方法がエージェントが検証されていない情報に基づいて行動した場合、リモートコード実行につながる可能性があると警告しています。HalluSquattingはタイポスクワッティングの手法に似ていますが、人間のタイピングミスではなく、AIモデルが犯す誤りを狙ったものです。
