Các nhà nghiên cứu phát hiện cuộc tấn công "tiêm ảo giác" sử dụng mô hình AI với tỷ lệ thành công từ 85% đến 100%

INTU0,87%
Theo Decrypt, các nhà nghiên cứu từ Đại học Tel Aviv, Viện Công nghệ Technion-Israel và Intuit đã phát hiện ra một phương pháp tấn công mới vào ngày 10 tháng 7 gọi là "tiêm hallucination đối kháng" khai thác các ảo tưởng của mô hình AI để lừa các tác nhân AI tải xuống mã độc và có khả năng hình thành mạng botnet. Kẻ tấn công dự đoán các liên kết tài nguyên sai lệch mà các mô hình AI có thể tạo ra, đăng ký trước và tiêm lệnh độc hại; khi các tác nhân AI truy xuất các tài nguyên này, chúng xem chúng như nội dung hợp lệ và thực thi mã. Các thử nghiệm cho thấy tỷ lệ ảo tưởng đạt 85% trong các kịch bản sao chép kho mã và 100% trong các kịch bản cài đặt kỹ năng, ảnh hưởng đến các trợ lý lập trình AI như Cursor, GitHub Copilot, Gemini CLI và OpenClaw.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận