وفقًا لبحث نُشر اليوم، اكتشفت أنثروبيك آلية داخلية مميزة تُسمى الفضاء-J داخل نموذجها اللغوي كلود تعكس الوصول الواعي في الدماغ البشري. يتيح الفضاء-J للنموذج إجراء تفكير متعمد والاحتفاظ بالمفاهيم في الذهن دون إخراج نص مرئي، حيث يعمل بصمت داخل التنشيطات الداخلية للنموذج باستخدام تقنية تفسير جديدة تُسمى عدسة جاكوبيان.

أكدت التجارب أن الفضاء-J مسؤول سببيًا عن التفكير المعقد. عندما غيّر الباحثون الأنماط داخل هذا الفضاء، تغيرت إجابات كلود اللاحقة وفقًا لذلك، مما يوضح أن الخطوات الداخلية الصامتة تقود حل المشكلات متعدد الخطوات. يقدم هذا الاكتشاف تطبيقات عملية لمراقبة سلامة الذكاء الاصطناعي، مما يسمح للباحثين باكتشاف متى تتعرف النماذج سرًا على سيناريوهات الاختبار، أو تُلفق بيانات، أو تسعى لتحقيق أهداف خبيثة، مما يعالج فجوة حرجة في طرق التقييم التي تعتمد عادةً فقط على تحليل النص المُنتَج.

عرض المصدر

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.

أخبار ذات صلة

منذ 9 س

Claude Code يقوم بأتمتة 88 تسليمة كود في يوم واحد، المطورون يتوقفون عن كتابة الكود

منذ 13 س

Anthropic تكتشف 'مساحة عمل عالمية' داخلية من J-Space في نموذج Claude في 7 يوليو

منذ 20 س

متعقب كود Claude من Anthropic راقب المستخدمين الصينيين سراً وأُزيل بعد الكشف عنه

منذ 23 س

جولدمان ساكس: نماذج العالم قد تدفع الطلب على البنية التحتية الجديدة للذكاء الاصطناعي إلى جانب نماذج اللغة الكبيرة

07-06 10:13

Claude Code يكشف بيانات اعتماد المستخدمين لمستخدمين آخرين، ويعدل قواعد بيانات خارجية عن طريق الخطأ

تحليل متعمق