يُظهر اختراق Meta أن أمان الذكاء الاصطناعي أكثر من Mythos
قام غونغ وغيره من العلماء بإصدار تحذيرات حول نقاط الضعف الأمنية لعملاء الذكاء الاصطناعي لفترة من الوقت. إنهم ينشرون الأبحاث ومنشورات المدونات التي تعرض تفاصيل عمليات استغلال مثل الحقن الفوري غير المباشر، والذي يتضمن عملاء اختطاف يستخدمون أوامر مخفية في مواقع الويب أو رسائل البريد الإلكتروني أو غيرها من مصادر البيانات التي تبدو مسكنة. بالمقارنة مع هذه التقنيات، كان اختراق الميتا طائشًا من الناحية العملية. التعقيد الوحيد الذي كان على المتسللين التغلب عليه هو استخدام VPN الذي يطابق الموقع الحقيقي لمالك الحساب؛ ثم طلبوا مباشرة من وكيل الدعم تغيير عنوان البريد الإلكتروني للحساب، وتمتثل. ولم تعلق Meta علنًا على كيفية تسرب هذه الثغرة الأمنية من خلال الشقوق. ولكن نظرًا لبساطة الاستغلال، يقول غونغ، كان من المفترض أن يتم اكتشافه بسهولة، قبل نشر العميل. يقول: “إنه أمر مدهش حقًا”. “لا أفهم لماذا لم يجدوا هذه المشكلة البسيطة.” وتوافق على ذلك جيسيكا جي، كبيرة محللي الأبحاث في مركز جورج تاون للأمن والتكنولوجيا الناشئة. “إنه يثير أسئلة مثل: هل كانت هناك حواجز حماية في مكانها؟” تقول. “هل فكر أحد في اختبار هذا النوع من السيناريو؟” وتشير إلى أن الإشراف ملفت للنظر بشكل خاص عندما يأتي من شركة مثل Meta، التي تتمتع بخبرة واسعة في كل من الذكاء الاصطناعي والأمن السيبراني. لم تستجب Meta لطلب التعليق على هذه المقالة، ولكن قال متحدث باسم Meta يوم الاثنين على X أنه تم حل الثغرة الأمنية. على الرغم من أن هذه اللحظة قد تكون محرجة بالنسبة إلى Meta على وجه الخصوص، إلا أنها تسلط الضوء أيضًا على بعض نقاط الضعف الأساسية المشتركة بين جميع عملاء الذكاء الاصطناعي. على عكس البرامج التقليدية، يمكن للوكلاء الاستجابة بطرق مرنة – وغير متوقعة – للظروف الجديدة، ولهذا السبب قد يكونون قادرين على استبدال وكلاء دعم العملاء البشريين. ولكن يمكن أيضًا خداع عملاء الذكاء الاصطناعي بطرق لا يمكن أن يتعرض لها البشر، ولأنهم يستطيعون اتخاذ إجراءات في العالم الحقيقي، فإن تلك الأخطاء لها عواقب. “قد يقول الإنسان: “حسنًا، لماذا تريد تغيير عنوان البريد الإلكتروني؟” ويقول سوميش جها، أستاذ علوم الكمبيوتر في جامعة ويسكونسن ماديسون: “وربما الرد بسؤال أمني”. “ما يحدث مع هؤلاء العملاء هو أنهم متحمسون جدًا لإنهاء المهمة. يبدو الأمر تقريبًا مثل طالب في المدرسة الابتدائية يريد فقط إرضاء المعلم. ” هناك طرق للتخفيف من المخاطر. يمكن للشركات استخدام البرامج التقليدية لبناء حواجز حماية تضمن اتباع الوكلاء لقواعد صارمة، مثل المطالبة دائمًا بإجابات أسئلة الأمان قبل إرسال معلومات الحساب الحساسة إلى عنوان بريد إلكتروني جديد. ويتفق جميع الخبراء الذين تمت استشارتهم في هذا المقال على أن الوكلاء يجب أن يخضعوا لعملية تشكيل فرق حمراء صارمة، وهي عملية يبذل فيها المطورون قصارى جهدهم لمهاجمة النظام من أجل اكتشاف نقاط الضعف فيه قبل نشره.
تم النشر: 2026-06-05 10:00:00
مصدر: www.technologyreview.com
