ما يظهره وما لا يُظهره أحدث اكتشاف للذكاء الاصطناعي لشركة Anthropic
أحد المجالات التي تنفق عليها شركة Anthropic وقتًا ومالًا أكثر من شركات الذكاء الاصطناعي الأخرى يُسمى قابلية التفسير الميكانيكي، وهو ما يعني النظر داخل الرياضيات المعقدة لنموذج الذكاء الاصطناعي لمعرفة سبب ظهوره لمخرج معين دون آخر. إنها أشياء معقدة. هناك الملايين من نقاط البيانات التي قد تساهم في أي نتيجة، والخوض فيها يمكن أن يبدو أشبه بسلطة الكلمات أكثر من أي شيء مفيد. كما أنها مثيرة للجدل. إن وصف نماذج الذكاء الاصطناعي بمصطلحات مستعارة من علم النفس وعلم الأعصاب يمكن أن يجعل سلوكها يبدو أكثر تعقيدًا مما قد نحكم عليه بطريقة أخرى. ولهذا السبب، عندما أعلنت شركة أنثروبيك في الأسبوع الماضي أنها وجدت نافذة جديدة تطل على “الأفكار الداخلية” لنماذجها أثناء تفكيرها من خلال الإجابات، كان هناك زميل واحد كان علي أن أتحدث إليه. أمضى كبير المحررين ويل دوجلاس هيفين، إلى جانب حصوله على درجة الدكتوراه في علوم الكمبيوتر، الكثير من الوقت في البحث عما يمكننا قوله حول كيفية عمل نماذج الذكاء الاصطناعي. لقد تحدثت معه حول ما يجب أن نتعلمه من بحث الأنثروبيك الجديد (والملتوي كما هو متوقع). ماذا تعلمت الأنثروبيك هنا بالضبط؟ تحاول شركة Anthropic فهم كيفية عمل نماذج اللغة الكبيرة (LLMs) منذ بضع سنوات حتى الآن. الأنثروبيك ليست الوحيدة التي تنظر إلى هذا الأمر، لكنني أعتقد أن الشركة جعلته جزءًا من مهمتها الأساسية أكثر من معظم الشركات الأخرى. قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إننا لن نكون قادرين على التحكم في LLMs بشكل كامل ما لم نتعلم المزيد عن كيفية عملها. لذا فإن هذا البحث الجديد يقع في هذا السياق إلى حد كبير. إنه يتعمق أكثر في الآليات الغريبة داخل LLMs أكثر من أي وقت مضى. ما تعلمته Anthropic هو أن طلاب ماجستير اللغة لديهم مساحة بداخلهم – والتي تسميها Anthropic مساحة J – مليئة بالكلمات التي لا تظهر في مخرجاتهم ولكن يبدو أنها تؤثر على الطريقة التي يحلون بها المشاكل. كل هذا كان مخفيًا حتى قامت شركة أنثروبيك بتطوير تقنية جديدة لاستكشاف نموذجها كلود، لذا فهو اكتشاف حقيقي. في بعض الأحيان، تقوم هذه الكلمات بتتبع ما وصل إليه ماجستير القانون في مهمة معينة، وفي بعض الأحيان تبدو أشبه بمضات من التعرف (على سبيل المثال، قد تظهر كلمة “بروتين” عندما تعطي ماجستير في القانون فقط أحرف تسلسل البروتين)، وفي بعض الأحيان تمثل نوعًا من التعليق الداخلي على عملية صنع القرار في النموذج. في المثال المفضل لدي، قرر كلود الغش في اختبار البرمجة عندما ظهرت كلمة “ذعر”. وجدت Anthropic أيضًا أن LLMs قادرة على وصف الكلمات في هذا الفضاء ومعالجتها. لذلك يبدو أنهم يستفيدون منه بطريقة أو بأخرى. دعونا نتراجع لثانية واحدة. لا أعتقد أن نماذج اللغات الكبيرة بسيطة، ولكنها أيضًا ليست سحرية. هناك مجموعة من الرياضيات التي تتعلم العلاقات بين الكلمات، أليس كذلك؟ فلماذا يكون من الصعب جدًا “النظير” في ماجستير إدارة الأعمال لمعرفة ما يحدث؟
تم النشر: 2026-07-13 19:00:00
مصدر: www.technologyreview.com
