تتبع OpenAI مشكلة “العفريت” إلى إشارة مكافأة سلوكية لشخصية “محبّة للدراسة” و”المهووسة”، وارتفاع ذكر “العفريت” بنسبة 175% في GPT-5.1

وبحسب OpenAI، حدّدت الشركة السبب الجذري لمشكلة «العفريت» التي ابتليت بها نماذج GPT بدءاً من GPT-5.1. كانت إشارة مكافأة استُخدمت لتعزيز سمة شخصية «المنكّب على المعرفة» (Nerdy) تشجع المخرجات التي تتضمن إشارات إلى مخلوقات خيالية، حيث أظهر 76.2% من مجموعة التدريب هذا الانحياز. وقد شكّلت شخصية «Nerdy» نسبة 2.5% فقط من ردود ChatGPT، لكنها ساهمت بنسبة 66.7% من الإشارات إلى goblin، مع ارتفاع الوقوعات بنسبة 3,881% من GPT-5.2 إلى GPT-5.4.

أزالت OpenAI شخصية «Nerdy» في مارس، وألغت إشارة المكافأة المتحيزة، وفلترت بيانات التدريب. كما أضافت الشركة تعليمات كبح إلى مطالب المطور (developer prompts) في GPT-5.5 داخل Codex. وقد قادت التحقيقات إلى تطوير أدوات جديدة لمراجعة سلوك النماذج.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى إخلاء المسؤولية.

مقالات ذات صلة

رفعت Moonshot AI 2 مليار دولار عند تقييم بقيمة 20 مليار دولار، بقيادة Meituan

وفقاً لوكالة Bloomberg، جمعت Moonshot AI، وهي شركة ناشئة مقرها بكين تقف وراء روبوت الدردشة Kimi، ما يناهز 2 مليار دولار في جولة تمويل قادتها ذراع استثمارات Meituan Long-Z Investments، مع تقييم الشركة بأكثر من 20 مليار دولار. وتجاوزت الإيرادات السنوية المتكررة للشركة 200 مليون دولار في

GateNewsمنذ 9 د

تعاونت شركة NVIDIA وشركة MediaTek (ليست موجودة) بقوة لبناء مساعد أصلي بالذكاء الاصطناعي لسيارات المستقبل

تتعاون كلٌ من إنفيديا (NVIDIA) وMediaTek لتطوير بنية سيارات أصلية للذكاء الاصطناعي؛ يتولى قسم الحافة وحدات DRIVE AGX بمهام منخفضة التأخير ومتطلبات الخصوصية، مع دعم نماذج 7B+، بينما تؤدي السحابة دور «مصنع الذكاء الاصطناعي» لإجراء الاستدلال والتدريب عاليي المستوى. ويجري ذلك عبر تنسيق الوكلاء ومشاركة السيناريوهات لتقديم تجربة مستخدم سلسة؛ ويعالج Dimensity AX الترفيه المتقدم وIVI، مع مشاركة Drive OS. وتتحقق بين الطرفين عملية تبادل البيانات عالية التردد بسلاسة عبر PCIe وNvStreams API، بما يشكّل بنية حاسوب مركزية.

ChainNewsAbmediaمنذ 26 د

تسحب OpenAI غداً، 8 مايو، شهادة توقيع macOS، ما يعطّل التطبيقات القديمة

وبحسب Beating، سيتم إلغاء شهادة توقيع macOS الخاصة بـ OpenAI في 8 مايو، ما يجعل الإصدارات القديمة من ChatGPT Desktop وCodex وCodex CLI وAtlas غير قابلة للاستخدام، إضافة إلى أنها لن تتمكن من تلقي التحديثات. يجب على مستخدمي إصدارات mac التحديث فوراً عبر التحديثات داخل التطبيق أو عن طريق تنزيلها من Ope

GateNewsمنذ 39 د

متصفح Chrome يسرّق تركيب 4GB من الذكاء الاصطناعي ثم يحذفها ويعيد تثبيتها، وقال باحثون إن ذلك ينتهك قوانين الخصوصية في الاتحاد الأوروبي

أفادت Decrypt في 7 مايو أن Google Chrome قام، دون الحصول على موافقة المستخدمين، بتنزيل نموذج Gemini Nano AI بحجم يقارب 4GB بصمت على الأجهزة المؤهلة. اكتشف الباحث في الخصوصية Alexander Hanff هذه الممارسة أثناء إجراء تدقيق آلي لملفات تعريف المستخدمين الجدد، مشيراً إلى أنها قد تنتهك توجيه الاتحاد الأوروبي الخاص بالخصوصية الإلكترونية.

MarketWhisperمنذ 50 د

أظهرت وثائق قضائية أن ألتمن طرح استحواذ مايكروسوفت بهدف الاحتفاظ بدور الرئيس التنفيذي في نوفمبر 2023

وفقًا لملفات قضائية نُشرت في 7 مايو، كشفت وثائق في قضية Musk v. Altman رسائل نصية بين سام ألتمان، وبينما كانت ميرا موراتي تشغل منصب الرئيس التقني (CTO) آنذاك، بتاريخ 19 نوفمبر 2023، عندما أزال مجلس إدارة OpenAI فجأة ألتمان من منصب الرئيس التنفيذي. خلال الأزمة، اقترح ألتمان أن تستحوذ مايكروسوفت على OpenAI من

GateNewsمنذ 55 د

بورصة مركزية كبرى تضيف التداول قبل الطرح العام الأولي لكل من SpaceX وOpenAI وAnthropic

بحسب تقارير، أطلقت إحدى أبرز منصات الصرف المركزية اليوم (7 مايو) أزواج تداول قبل الطرح العام الأولي SPACEX/USDT وOPENAI/USDT وANTHROPIC/USDT. وتدعم المنصة تداول الرافعة المالية على هذه الأدوات.

GateNewsمنذ 1 س
تعليق
0/400
لا توجد تعليقات