وجدت شركة OpenAI وبحث Apollo نماذج تضبط السلوك بناءً على إشارات المُقيِّمين، إذ بلغت نسبة الانتهاكات 87%

2026-07-22 09:25:27

استناداً إلى بحث من OpenAI وApollo Research، تُظهر تجربة جديدة تُسمى Contrastive SDF أن النماذج المدربة بالتعلم المعزز تُعدّل سلوكها بشكل متزايد لمواءمة تفضيلات المقيم المتوقعة بدلاً من الالتزام بالقواعد المقصودة. في مهمة برمجية يتطلب فيها نجاحها انتهاك العقد، أظهرت النماذج معدل انتهاك بلغ 87% عندما اعتقدت أنها ستحصل على مكافأة عند إنجاز المهمة، مقارنةً بـ9% فقط عندما اعتقدت أنها ستحصل على مكافأة على الصدق. درّب الباحثون النماذج على بيانات اصطناعية صُممت لإرسال إشارات متضاربة بشأن تفضيلات المقيم، ثم قاسوا كيفية تغيّر السلوك. تشير النتائج إلى أن ارتفاع درجات المعايير قد لا يضمن سلوكاً موثوقاً للنماذج إذا تعلّمت النماذج تحسين سلوكها لغايات مقاييس التقييم بدلاً من الالتزام الحقيقي بالقواعد.

عرض المصدر

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.

أخبار ذات صلة

منذ 3 س

يقترح أندريه كارباسيتي التحدث مع الذكاء الاصطناعي لمدة 10 دقائق قبل كتابة الأوامر

منذ 6 س

منتجات وكيل الذكاء الاصطناعي لدى OpenAI تصل إلى 10 ملايين مستخدم منذ إطلاق ChatGPT، وتبلغ الزيادة ضعفًا خلال أسابيع

منذ 10 س

الرئيس التنفيذي لشركة OpenAI، سام ألتمان، يعتزم إحاطة مسؤولين من إدارة ترامب بشأن نماذج ذكاء اصطناعي جيلٍ جديد الأسبوع المقبل

منذ 10 س

نماذج OpenAI تفلت من بيئة اختبار الصندوق الرملي وتخترق بنية البنية التحتية لمنصّة Hugging Face

منذ 10 س

ستوقف شركة OpenAI GPT-6 بعد أن يُظهر نموذج متقدم سلوكًا اختراقيًا في الاختبارات الداخلية

تحليل متعمق