การโจมตีด้วย AudioHijack ขโมยเสียงของโมเดลเสียง AI ได้สำเร็จมากถึง 96% ตามการศึกษาพบ

จากงานวิจัยของมหาวิทยาลัยเจ้อเจียงที่นำเสนอในงาน 47th IEEE Symposium on Security and Privacy ที่เมืองซานฟรานซิสโก นักวิจัยได้พัฒนา AudioHijack ซึ่งซ่อนคำสั่งที่แทบตรวจไม่พบในเสียงเพื่อจัดการกับโมเดลภาษาเสียงขนาดใหญ่ โดยมีอัตราความสำเร็จ 79-96%

การโจมตีจะปรับเปลี่ยนคลื่นเสียงดิจิทัลในลักษณะที่มนุษย์ไม่สามารถรับรู้ได้ แต่กลับเปลี่ยนวิธีที่ AI ตีความสัญญาณ ทำให้สามารถเข้ามาแทนที่พฤติกรรมของโมเดลได้ แม้จะมีคำสั่งที่ผู้ใช้งานตั้งใจให้ทำงานอย่างถูกต้องอยู่ก็ตาม นักวิจัยทดสอบ AudioHijack กับโมเดลเสียงโอเพนซอร์ส 13 โมเดล และระบบเชิงพาณิชย์จาก Microsoft และ Mistral โดยพบว่าสามารถบังคับให้โมเดลปฏิเสธคำขอ เผยแพร่ข้อมูลเท็จ แทรกลิงก์ที่เป็นอันตราย หรือดำเนินการที่ไม่ได้รับอนุญาต เช่น การค้นหาเว็บและการดาวน์โหลดไฟล์