Kabar Deep Tide TechFlow, pada 25 Juli, Anthropic mengumumkan bahwa model Opus 5 mereka hampir kebal terhadap serangan prompt injection pada skenario browser agent. Dalam 129 skenario pengujian, tingkat keberhasilan serangan adalah nol; pada pengujian prompt injection umum Gray Swan, tingkat keberhasilan setelah 15 kali percobaan turun dari Opus 4.8 sebesar 5,5% menjadi 2,0%. Keberhasilan nol hanya tercapai saat produk seperti Claude Cowork mengaktifkan Auto Mode, di mana mode tersebut menerapkan dua lapis pertahanan berupa pemindaian input dan intersepsi eksekusi. Prompt injection dianggap sebagai salah satu risiko keamanan terbesar yang dihadapi AI agent, dan peningkatan kali ini kemungkinan menandai bahwa masalah tersebut dalam skenario tertentu telah teratasi secara efektif.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan