Атака AudioHijack викрадає моделі голосу ШІ з показником успішності до 96%, свідчить дослідження

Згідно з дослідженням Університету Чжецзян, представленим на 47-му симпозіумі IEEE з безпеки та конфіденційності в Сан-Франциско, дослідники розробили AudioHijack, який приховує непомітні команди в аудіо для маніпуляції великими аудіомовними моделями з показником успіху 79–96%.

Атака змінює цифрові аудіохвилі так, що це непомітно для людей, але змінює те, як ШІ інтерпретує сигнал, даючи змогу обходити поведінку моделі навіть тоді, коли присутні законні інструкції користувача. Дослідники протестували AudioHijack на 13 відкритих голосових моделях і комерційних системах Microsoft та Mistral, з’ясувавши, що він може змушувати моделі відмовляти в запитах, поширювати неправдиву інформацію, вставляти шкідливі посилання або виконувати несанкціоновані дії, як-от вебпошук і завантаження файлів.