رسالة من Deep Tide TechFlow، في 25 يوليو، أعلنت Anthropic أن نموذج Opus 5 الخاص بها بات يتمتع بحصانة شبه تامة ضد هجمات حقن تلميحات الأوامر في سيناريوهات عملاء المتصفح. في 129 سيناريو اختبار، بلغت نسبة نجاح الهجوم صفرًا؛ وفي اختبار حقن تلميحات الأوامر العامة من Gray Swan، انخفضت نسبة النجاح من 5.5% في Opus 4.8 إلى 2.0% بعد 15 محاولة. لم تُتحقق نسبة الصفر في النجاح إلا عند تفعيل Auto Mode في منتجات مثل Claude Cowork؛ إذ يضيف هذا النمط طبقتي دفاع متراكبتين هما فحص الإدخال واعتراض التنفيذ. ويُنظر إلى حقن تلميحات الأوامر على أنه أحد أكبر المخاطر الأمنية التي تواجه وكلاء الذكاء الاصطناعي، وقد يشير هذا التحسين إلى أن المشكلة تم التخفيف منها بشكل فعّال في سيناريوهات محددة.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت