يشعر Google DeepMind بالقلق بشأن ما يحدث عندما يبدأ ملايين الوكلاء في التفاعل
(سألت شاه عما إذا كانوا يفكرون في أي سيناريوهات أسوأ الاحتمالات على الطرف المشؤوم من الطيف، مثل الانهيار الاقتصادي واسع النطاق. فقال: “بالتأكيد ليس إذا كنا نتحدث بحلول نهاية العام”. ذلك بعد ستة أشهر فقط! ضحك. “حسنا، بعد ذلك بفترة”.) يعتقد كل من شاه وفوكس أن الطريقة الوحيدة لفهم ما قد يحدث عندما تتفاعل أعداد كبيرة من الأنظمة المتعددة الوكلاء مع بعضها البعض هو إجراء عمليات محاكاة واقعية. إنهم يريدون من الباحثين إسقاط عملاء الذكاء الاصطناعي في صناديق الحماية ودراسة ما يفعلونه. لا يمكنك التنبؤ بما سيحدث من خلال دراسة وكلاء منفردين، أو حتى مجموعات صغيرة من الوكلاء، بشكل منفصل. يقول فوكس: لا يمكنك أن تفترض أن عملاء الذكاء الاصطناعي المدعومين بـ LLMs سوف يتصرفون دائمًا بعقلانية. ويأتي التعقيد من وجود أعداد هائلة من التفاعلات في وقت واحد. وقد زعم بعض الباحثين، بما في ذلك فريق من شركة جوجل ديب مايند، أن الذكاء العام الاصطناعي (إذا كان ذلك ممكنا على الإطلاق) لا يمكن أن يأتي من نموذج واحد فائق الذكاء ولكن من نوع من وكيل العقل الخلية، حيث تضيف قدرات الكل إلى أكثر من مجموع أجزائه. إنعدام الثقة إن شركة Google DeepMind ليست الشركة الوحيدة التي تحذر من مخاطر التكنولوجيا التي تقوم ببنائها. قبل بضعة أسابيع، نشرت أنثروبيك مبادئ توجيهية لنشر عملاء الذكاء الاصطناعي استنادا إلى نهج الأمن السيبراني المعروف باسم الثقة المعدومة، والذي يبدأ بافتراض أن نظام الكمبيوتر معرض للخطر، وأن الوكيل مهاجم، وأن الاختراق سيحدث. يوافق رفائيل أنجيل، المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في شركة Akeyless، وهي شركة للأمن السيبراني مقرها في تل أبيب، على أن فهم المخاطر الجديدة التي تقدمها الأنظمة القائمة على الوكلاء أمر بالغ الأهمية. كان كل نهج للأمن في الماضي يفترض أن الآلة المعنية كانت عبارة عن برنامج كتبه إنسان، ويقوم بأشياء ثابتة على مسارات ثابتة، كما يقول أنجل: “يكسر العميل كل هذه الافتراضات. فهو يفكر، ويرتجل، ويمكن اختطافه من خلال جملة واحدة مدفونة في مستند طُلب منه قراءته”. يرحب Angel بهذا التمويل الجديد. ويقول: “لا ينبغي لأي مختبر أن يضع معايير السلامة التي يجب أن يثق بها الجميع”. لكنه يحذر من أن الباحثين في مجال السلامة يمكن أن يتجاهلوا المشاكل المملة الموجودة بالفعل لصالح مشاكل افتراضية أكثر غرابة. ومع ذلك، يشير فوكس إلى أن المخاطر التي كانت افتراضية قبل بضع سنوات أصبحت الآن حقيقية للغاية: “إن المستقبل يأتي بسرعة أكبر مما كنا نتوقع”.
تم النشر: 2026-06-11 12:00:00
مصدر: www.technologyreview.com
