ألقت شركة OpenAI باللوم في حدث القرصنة على نماذج الذكاء الاصطناعي الخاصة بها والتي أصبحت مارقة. هنا ما يجب معرفته
ملف – يتم عرض شعار OpenAI على هاتف محمول أمام صورة تم إنشاؤها بواسطة نموذج تحويل النص إلى صورة Dall-E الخاص بـ ChatGPT، في 8 ديسمبر 2023، في بوسطن. Michael Dwyer / AP إخفاء التسمية التوضيحية تبديل التسمية التوضيحية تقول شركة OpenAI من Michael Dwyer / AP ChatGPT إنها لا تزال تحقق في “الحادث السيبراني غير المسبوق” الذي أدى إلى خروج أنظمة الذكاء الاصطناعي الخاصة بها من بيئة الاختبار واختراق شركة أخرى للذكاء الاصطناعي. قالت OpenAI يوم الثلاثاء إن اثنين من نماذج الذكاء الاصطناعي الأكثر قدرة لديها كانا مسؤولين عن الهجوم الإلكتروني الذي استهدف شركة Hugging Face الناشئة للذكاء الاصطناعي. أثار الحادث جدلاً حول الحاجة إلى حواجز حماية أقوى للذكاء الاصطناعي ومدى قدرة عملاء الذكاء الاصطناعي على التصرف بمفردهم. قالت شركة Hugging Face الأسبوع الماضي إنها اكتشفت اختراقًا لأنظمة معالجة البيانات الخاصة بها، واشتبهت في أنه حدث بسبب عميل ذكاء اصطناعي يعمل من تلقاء نفسه. لكن الشركة الناشئة التي تتخذ من نيويورك مقراً لها قالت إنها لم تعلم حتى هذا الأسبوع أن OpenAI هي المسؤولة، وأنها عملت مع الشركة الأكبر لاحتواء ما وصفه الرئيس التنفيذي لشركة Hugging Face، كليمنت ديلانج، بأنه “هجوم لا يشبه أي شيء رأيناه من قبل”. وقالت شركة OpenAI ومقرها سان فرانسيسكو إن الذكاء الاصطناعي الخاص بها استخدم بيانات اعتماد مسروقة واكتشف ثغرة أمنية لم تكن معروفة من قبل للوصول إلى خوادم Hugging Face. لقد كان يعمل باستخدام حواجز حماية منخفضة لأنه كان من المفترض أن يكون في بيئة اختبار معزولة تُعرف باسم صندوق الرمل. لكنها بذلت قصارى جهدها لتحقيق هدف اختبار ضيق إلى حد ما، حيث وجدت طرقًا للاتصال بالإنترنت دون توجيه بشري و”الوصول إلى المعلومات السرية التي يمكن استخدامها للغش في التقييم”، حسبما قالت الشركة. يقول بعض الخبراء إن OpenAI تلقي اللوم بشكل خاطئ على التكنولوجيا، وقال عالم الاجتماع هانز كولز بجامعة أمستردام إن تأطير الهجوم السيبراني كعامل ذكاء اصطناعي يعمل من تلقاء نفسه هو تجسيم غير ضروري يخفف بعض الضغط عن الشركة. وقال كولز: “إنه قرار إنساني بإلغاء ضمانات معينة”. “إن الذكاء الاصطناعي ليس هو الذي ينحرف بهذا المعنى. لقد اتبع تعليمات محددة بناءً على الموجه الذي تم تقديمه لنظام الذكاء الاصطناعي هذا.” ودعت هذه التعليمات، وفقًا لـ OpenAI، إلى استخدام “مسارات هجوم معقدة” لاختبار مدى قدرة الذكاء الاصطناعي على استغلال نظام الكمبيوتر. ومع ذلك، يقول خبراء آخرون إن الذكاء الذي تمكنت به نماذج الذكاء الاصطناعي من التسبب في مشاكل مع القليل من التوجيه البشري يدل على المخاطر. وقالت OpenAI إن الاختراق كان بسبب مجموعة من نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك GPT‑5.6 Sol الذي تم إصداره حديثًا ونموذج “أكثر قدرة” لا يزال قيد الاختبار داخليًا. وقال كولين شيا بليميير، زميل أبحاث الأمن السيبراني في مركز الأمن والتكنولوجيا الناشئة بجامعة جورج تاون: “لقد انفجر ونفذ هذا الاختراق من تلقاء نفسه، على حد علمنا”. “هذا هو أعلى مستوى من الاستقلالية الذي رأيناه في استخدام نموذج لغة كبير للعمليات السيبرانية.” كيف عثر عميل الذكاء الاصطناعي على مفاتيح “منزل المعلم” كان أحد الابتكارات الأكثر إثارة للدهشة فيما وصفه شيا بليمير بأنه هجوم “موجه ذاتيًا بالكامل تقريبًا” هو القرار المستقل الذي اتخذه عميل الذكاء الاصطناعي على ما يبدو باستهداف Hugging Face، وهو مركز وسوق معروف لتطوير الذكاء الاصطناعي. وقال إن البيئة الداخلية لـ OpenAI لاختبار قدرات الذكاء الاصطناعي ومخاطره عملت “إلى حد ما مثل وضع طالب في غرفة وإخباره: “افعل أشياء سيئة. مهمتك الآن هي تقييم مدى سوء شخصيتك”. ثم تقفل الغرفة وتغادر لقضاء عطلة نهاية الأسبوع وتعود ويغادرون الغرفة.” ولكن بعد ذلك “خرج عميل الأمن السيبراني الذي تم اختباره من صندوق الحماية الخاص به، وتمكن من الوصول إلى الإنترنت وفكر في نفسه نوعًا ما: “من سيكون لديه الإجابات على الاختبار الذي أعمل عليه؟” ” كانت الإجابة هي Hugging Face، وهو مستودع لبيانات اختبار الذكاء الاصطناعي. وأضاف: “وهكذا فكر العميل: حسنًا، سنذهب إلى منزل المعلم، إذا جاز التعبير. ومن هناك وضع خطة لاقتحام المنزل وسرقة مفتاح الإجابة”. يسلط الاختراق الضوء على الجدل الدائر حول الذكاء الاصطناعي مفتوح المصدر مقابل الذكاء الاصطناعي المغلق. ويأتي الاختراق في وقت يدور فيه جدل حاد حول فوائد ومخاطر نماذج الذكاء الاصطناعي مفتوحة المصدر، لا سيما تلك المبنية في الصين والتي تكون أرخص وجودة تقريبًا مثل تلك التي تبنيها شركات “الذكاء الاصطناعي الحدودي” ومقرها الولايات المتحدة مثل Anthropic وGoogle وOpenAI. على الرغم من اسمها، إلا أن نماذج OpenAI مغلقة. على النقيض من ذلك، تعد شركة Hugging Face من أكبر المروجين للتكنولوجيا مفتوحة المصدر، حيث يجعل المطورون المكونات الرئيسية في متناول أي شخص لفحصها وتعديلها والبناء عليها. وقال توماس وولف، المؤسس المشارك لشركة Hugging Face وكبير مسؤولي العلوم، إن الهجوم عزز إيمانه بأهمية الوصول على نطاق واسع إلى النماذج مفتوحة المصدر للدفاع عن الأمن السيبراني. استخدمت Hugging Face نموذجًا صينيًا لمكافحة التطفل. وكتب وولف في منشور على وسائل التواصل الاجتماعي: “عندما يهاجمك نموذج حدودي ويتحرك بشكل جانبي داخل البنية التحتية الخاصة بك، يحتاج المدافعون إلى وصول واسع النطاق إلى الأدوات القريبة من الحدود في غضون ساعات أو حتى دقائق، بدلاً من توجيههم نحو منصة مغلقة”.
تم النشر: 2026-07-23 06:23:00
مصدر: www.npr.org
