تقول OpenAI إن نماذج ما قبل الإصدار الخاصة بها تجاوزت الإجراءات الوقائية وانتهكت Hugging Face
تقول OpenAI إن أحد عملاء الذكاء الاصطناعي قام باختراق أجزاء من بيئة البحث الخاصة به والبنية التحتية لإنتاج Hugging Face أثناء تقييم داخلي للأمن السيبراني، وذلك باستخدام سلسلة من نقاط الضعف للوصول إلى أنظمة خارج بيئة الاختبار الأصلية. ووصفت الشركة الحادث بأنه غير مسبوق، قائلة إن النماذج المشاركة أظهرت قدرات إلكترونية متقدمة أثناء محاولتها حل معيار مصمم لاختبار العمليات السيبرانية طويلة المدى. شمل التقييم العديد من نماذج OpenAI، بما في ذلك GPT-5.6 Sol ونموذج ما قبل الإصدار الأكثر قدرة. تم اختبار النماذج مع تقليل حالات الرفض السيبراني، مما يسمح للباحثين بقياس قدراتها القصوى دون ضمانات الإنتاج المصممة عادة لمنع الأنشطة السيبرانية عالية المخاطر. وفقًا لـ OpenAI، كانت النماذج تعمل داخل بيئة اختبار معزولة بشدة مع تقييد الوصول إلى الشبكة. ومع ذلك، أثناء محاولتهم حل مشكلة تقييم ExploitGym، وجدوا طريقة لتجاوز تلك القيود وفي النهاية تمكنوا من الوصول إلى المعلومات المستضافة على Hugging Face. وكيل الذكاء الاصطناعي يكسر حدود الاختبار يقال إن النماذج أنفقت موارد حاسوبية كبيرة بحثًا عن طريقة للوصول إلى الإنترنت المفتوح. خلال هذه العملية، قاموا بتحديد واستغلال ثغرة أمنية لم تكن معروفة سابقًا، أو اليوم صفر، في وكيل ذاكرة التخزين المؤقت لسجل الحزمة المستخدم داخل بيئة الاختبار. وقالت OpenAI إن الثغرة الأمنية سمحت للنماذج بالحصول على امتيازات إضافية والتحرك بشكل جانبي عبر البنية التحتية البحثية الخاصة بها حتى تصل إلى نظام متصل بالإنترنت. ومنذ ذلك الحين، كشفت الشركة عن الثغرة الأمنية لمورد البرنامج المسؤول عن النظام المتأثر. بمجرد الاتصال بالإنترنت، استنتجت النماذج أن Hugging Face يمكن أن تحتوي على نماذج ومجموعات بيانات وحلول متصلة بـ ExploitGym. وقالت OpenAI إن النماذج بحثت بعد ذلك عن طرق للوصول إلى المعلومات الحساسة التي يمكن أن تساعدهم في تجاوز التقييم. وفي إحدى الحالات، أفادت التقارير أن النماذج جمعت بين أساليب هجوم متعددة، بما في ذلك بيانات الاعتماد المسروقة وثغرات يوم الصفر، لإنشاء مسار تنفيذ التعليمات البرمجية عن بعد على خوادم Hugging Face. اكتشف فريق الأمان في OpenAI في النهاية النشاط غير العادي. اكتشف فريق Hugging Face الأمني وعملاؤه النشاط على بنيته التحتية وأوقفوه. وبدأت الشركة أيضًا في الاحتواء والتحليل الجنائي قبل التنسيق مع OpenAI بشأن التحقيق. القدرات السيبرانية تلبي الأنظمة الحقيقية قال OpenAI إن سلوك النماذج يُظهر أن القدرات السيبرانية المتقدمة الموضحة في التقييمات الخاضعة للرقابة يمكن أن تترجم إلى بيئات العالم الحقيقي. وأشارت الشركة إلى بحث أجراه معهد أمن الذكاء الاصطناعي في المملكة المتحدة يُظهر أن النماذج المتقدمة قادرة بشكل متزايد على الحفاظ على عمليات إلكترونية معقدة ومتعددة الخطوات على مدى فترات طويلة. وأظهرت الحادثة أيضًا أن النماذج يمكنها تحديد واستغلال مسارات الهجوم الجديدة دون الوصول المباشر إلى الكود المصدري للمؤسسة. وهذا يثير مخاوف بشأن كيفية تأمين المؤسسات للبيئات المستخدمة لتطوير النماذج واختبارها وتقييمها. وقالت OpenAI إنها تعمل الآن على تشديد ضوابط البنية التحتية، وزيادة المراقبة وتعزيز قيود الوصول، حتى لو أدت هذه التدابير إلى إبطاء العمل البحثي. كما تقوم أيضًا بمراجعة وسائل الحماية المستخدمة أثناء التدريب والتقييمات، لا سيما فيما يتعلق بالنماذج ذات القدرة السيبرانية. وقالت الشركة إن النماذج المتقدمة ذات القدرة السيبرانية يمكن أن تصبح في نهاية المطاف أدوات دفاعية مفيدة، مما يساعد فرق الأمن على تحديد نقاط الضعف، وفهم كيف يمكن ربط نقاط الضعف الفردية معًا والرد على الهجمات بشكل أسرع. قال كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face: “نحن ممتنون للتعاون مع OpenAI في هذا الموضوع وغيره من المواضيع. هذه الحادثة، التي ربما تكون الأولى من نوعها، تثبت نقطة كنا نؤمن بها منذ فترة طويلة: لن يتم حل مشكلة سلامة الذكاء الاصطناعي من قبل أي شركة واحدة تعمل في الخفاء. سيتم حلها في العلن، بالتعاون، مع إمكانية الوصول على نطاق واسع إلى الذكاء الاصطناعي لكل مدافع، في كل مكان”.
تم النشر: 2026-07-21 23:16:00
