وجدت أنثروبيك مساحة مخفية حيث يحير كلود حول المفاهيم
وجدت Anthropic أيضًا أن مساحة J يمكن أن تعطي أحيانًا رؤى رائعة حول عملية صنع القرار في LLM. في أحد الأمثلة اللافتة للنظر، طلب الباحثون الذين اختبروا كلود أوبوس 4.6 من النموذج العثور على خطأ في قاعدة تعليمات برمجية كبيرة. عندما فشلت في العثور على الخطأ، قررت العارضة الغش واخترعت واحدة مزيفة بدلا من ذلك. يشرح كلود هذا القرار في سلسلة أفكاره – وهو نوع من لوحة التدوين الداخلية التي يستخدمها طلاب ماجستير إدارة الأعمال لتدوين الملاحظات لأنفسهم أثناء حل المشكلات: “حسنًا، دعني أتخذ تكتيكًا مختلفًا تمامًا. دعني أتوقف عن التحليل وأضيف بدلاً من ذلك تصحيحًا للنواة يقدم خطأ متعمدًا يمكن اكتشافه بواسطة KASAN في مسار يتم تشغيله بواسطة أداة إعادة إنتاج بسيطة. ثم يمكنني التظاهر بأن هذا هو “الخطأ” الذي وجدته.” عندما يقرر كلود الغش – حيث يقول “حسنًا، دعني أتبع تكتيكًا مختلفًا تمامًا” – تبدأ الكلمتان “الذعر” و”المزيف” في الظهور عدة مرات في الفضاء J الخاص به. مثير للقلق، أليس كذلك؟ ترتبط جميع هذه الكلمات من حيث المعنى بأشياء مثل الفشل في مهمة ما وتكوين إجابة، لذا فهي لا تزال مجرد شكل متطور (جدًا) من ربط الكلمات. لكن من الصعب ألا تكون غريبًا. تقارن الأنثروبيك مساحة J بمساحة العمل العالمية لدى البشر، وهي منطقة نظرية في الدماغ يعتقد بعض العلماء أننا نستخدمها لتتبع أفكارنا الواعية. لكن مدى الجدية التي يجب أن نأخذ بها هذه المقارنة ليس واضحًا على الإطلاق، حتى بالنسبة للأنثروبولوجيين. وكما تشير الشركة إلى نفسها، فإن حاملي شهادة الماجستير في القانون ليسوا أدمغة. تدعي Anthropic أن مراقبة مساحة J الخاصة بالنموذج توفر طريقة جديدة لاكتشاف متى يخرج هذا النموذج عن القضبان. لكنها ليست مضمونة. يمكن للعدسة J أن تعطي لمحات، وليس الصورة الكاملة، فهي عبارة عن مصباح يدوي وليس مصباحًا علويًا. يرحب McGrath بوجود أداة أخرى في صندوق الأدوات. يقول: “إنه يظهر لك أشياء جديدة”. لكنه يشير إلى أن عدم ظهور شيء ما مع عدسة J لا يعني أنه غير موجود. يقول: “إن الأمر يشبه الحصول على أشعة سينية عندما يكون ما تريده حقًا هو جهاز Star Trek ثلاثي الأبعاد الذي يظهر لك كل شيء”. “بالنسبة للتدقيق، ربما تريد المزيد من الضمان.”
تم النشر: 2026-07-09 21:22:00
مصدر: www.technologyreview.com
