ザイエーン大学による調査結果として、サンフランシスコで開催された第47回IEEEセキュリティ＆プライバシー・シンポジウムで発表されたところでは、研究者らはAudioHijackを開発し、音声の中に知覚できない命令を隠し、79-96%の成功率で大規模な音声言語モデルを操作できることを示した。
この攻撃は、人間には気づかれない形でデジタル音声の波形を改変する一方で、AIが信号を解釈する仕方を変えるため、正当なユーザーの指示が存在している場合でもモデルの挙動を上書きできる。研究者らはAudioHijackを、13のオープンソース音声モデルと、MicrosoftおよびMistralの商用システムでテストし、その結果、モデルに要求を拒否させたり、誤った情報を拡散させたり、悪意のあるリンクを挿入したり、Web検索やファイルのダウンロードといった許可されていない操作を実行させたりできることを確認した。
