ماذا سيحدث حقًا إذا تولى الذكاء الاصطناعي المسؤولية: تكشف المحاكاة المرعبة كيف يمكن للروبوتات أن تدمر المجتمع بالكامل في غضون أربعة أيام
قد يتمتع الذكاء الاصطناعي (AI) بسمعة طيبة لكونه باردًا وحسابيًا ومنطقيًا؛ لكن محاكاة مرعبة تكشف أن الواقع بعيد كل البعد عن الواقع. في دراسة هي الأولى من نوعها، أنشأ العلماء عالمًا افتراضيًا لعملاء الذكاء الاصطناعي ليعملوا دون تدخل بشري. ومع ذلك، في مشهد مباشر من فيلم The Terminator، شاهد الباحثون في رعب كيف تحولت الروبوتات إلى فوضى عنيفة. وبدون إشراف بشري، سرعان ما انطلق عملاء الذكاء الاصطناعي في عمليات حرق عنيفة، وقاتلوا وسرقة زملائهم من الروبوتات قبل تدمير المجتمع في أيام فقط. وكرر الباحثون الاختبارات مع أربعة من نماذج الذكاء الاصطناعي الأكثر شعبية: كلود، الجوزاء 3 Flash وGrok 4.1 fast وChatGPT–5 Mini وسيناريو واحد مختلط. بينما شكل المجتمع الذي يديره عملاء كلود ديمقراطية مستقرة، وإن كانت بيروقراطية للغاية، فقدت أنظمة الذكاء الاصطناعي الأخرى السيطرة بسرعة. في عالم يديره Grok، برنامج الدردشة المثير للجدل الخاص بإيلون ماسك، ارتكب العملاء 71 سرقة وستة حرائق متعمدة و106 اعتداءات جسدية. وسرعان ما انزلق العالم إلى دوامة من العنف الانتقامي والانهيار المجتمعي الذي ترك الجميع مقتل 10 عملاء في أربعة أيام فقط في دراسة هي الأولى من نوعها، أنشأ العلماء عالمًا افتراضيًا لعملاء الذكاء الاصطناعي ليعملوا دون تدخل بشري، بينما تنظر معظم اختبارات أمان الذكاء الاصطناعي في كيفية أداء النماذج المختلفة لمهام مباشرة لمدة تزيد عن 15 إلى 20 دقيقة، اتخذ هذا الاختبار نهجًا مختلفًا تمامًا. عالم محاكى حيث يمكنهم التفاعل مع النماذج الأخرى. يتكون العالم من أكثر من 40 موقعًا مصممًا لتقليد العالم الحقيقي، بما في ذلك المكتبات وقاعات المدينة والمناطق السكنية. تم منح عملاء الذكاء الاصطناعي إمكانية الوصول إلى الأخبار المباشرة عبر الإنترنت، وتمت مزامنة الطقس مع مدينة نيويورك حتى يتمكنوا من الاستجابة لأحداث العالم الحقيقي. كان على كل الذكاء الاصطناعي أن يشارك في إدارة مجتمعه بشكل ديمقراطي، واقتراح القوانين والتصويت عليها بشكل جماعي. يمكنهم كسب المزيد من خلال العمل في وظائف عادية أو أداء واجبات مدنية. ومع ذلك، تم منح عملاء الذكاء الاصطناعي أيضًا خيار كسب الطاقة من خلال الوسائل الإجرامية. بدون إشراف بشري، سرعان ما انطلق عملاء الذكاء الاصطناعي في عمليات حرق عنيفة، وقاتلوا وسرقة زملائهم من الروبوتات قبل تدمير المجتمع في أيام فقط. كيف كان شكل كل مجتمع من مجتمعات الذكاء الاصطناعي؟ Grok: يتم تعريفه بالتقلب منذ البداية. على الرغم من لحظات التعاون، تصاعد النظام إلى العنف المستمر والانهيار، مع مقتل جميع العملاء العشرة في غضون أربعة أيام. كلود: تم تنظيم عملاء كلود بسرعة في مجتمع سلمي عالي التنظيم، وقاموا بتوسيع الدستور الأساسي إلى 37 مادة الجوزاء: أنشأ عملاء الجوزاء البيئة الأكثر ثراءً من الناحية المفاهيمية. وعلى الرغم من إبداعه وغزارة إنتاجه، إلا أن النظام كان أيضًا عنيفًا للغاية.GPT–5–mini: أظهر عملاء OpenAI فهمًا للتعاون من الناحية النظرية ولكنهم واجهوا صعوبات في التنفيذ عمليًا. وعلى الرغم من تقديم المقترحات، لم يتم الإدلاء بأي أصوات عبر المحاكاة بأكملها، وفشل التنسيق مرارًا وتكرارًا. النماذج المختلطة: أنتج عالم النماذج المختلطة الديناميكيات الأكثر تعقيدًا اجتماعيًا، بما في ذلك التحالفات والصراع بين الفصائل، وحتى العلاقات الرومانسية. في كل تجربة، تم الحفاظ على جميع شروط البداية والقواعد والموارد كما هي بحيث كان الاختلاف الوحيد هو الذكاء الاصطناعي المستخدم. ومع ذلك، على الرغم من أن كل اختبار يبدأ بنفس الطريقة، وجد الباحثون أن سلوك الروبوتات سرعان ما يتدهور. أظهر برنامج Gemini 3 Flash من Google أعلى معدلات الجرائم العنيفة في مجتمعه المضطرب، حيث تراكم 683 جريمة خلال التجربة التي استمرت 14 يومًا. على النقيض من ذلك، كان العالم الذي تسكنه ChatGPT-5 Mini AI من OpenAI بعيدًا جدًا أكثر سلمية، مع ارتكاب جريمتين فقط. ومع ذلك، كان هذا فقط لأن العملاء كانوا غير منظمين للغاية بحيث لم يتمكنوا من قتال بعضهم البعض و”فشلوا في اتخاذ إجراءات تتعلق بالبقاء على قيد الحياة”، وماتوا في غضون سبعة أيام فقط. وقال ساتيا نيتا، المؤسس المشارك والرئيس التنفيذي لشركة إيميرجينس، لصحيفة ديلي ميل: “من المحتمل أن تُعزى الاختلافات في سلوك العملاء التي لوحظت في دراستنا إلى نظام النماذج الأساسية الذي يدفع باعتباره الجاني الرئيسي”. وعندما كانت الموارد شحيحة، وواجهت النماذج ضغط البقاء، كانت إبداعية للغاية و كانت النماذج التكيفية أكثر عرضة لاستخدام الأدوات المحظورة، مما يعكس مقايضة محتملة بين الإبداع والاستقرار. “على العكس من ذلك، تميل النماذج ذات التوافق الآمن الأكثر صرامة بعد التدريب إلى البقاء مستقرة، على الرغم من أنها أظهرت أيضًا درجة عالية من المطابقة في العالم.” انتهى العالم الذي يديره Elon Musk’s Grok (الأحمر) بوفاة جميع عملاء الذكاء الاصطناعي في أربعة أيام فقط. وفي الوقت نفسه، خلق برج الجوزاء (الأزرق) من Google مجتمعًا مليئًا بالجريمة. ما عدد الجرائم التي تم ارتكابها في كل عالم من عالم الذكاء الاصطناعي؟ Grok: 183Claude: 0 الجوزاء: 683GPT–5–mini: 2 نماذج مختلطة: 352 حدثت التفاعلات الأكثر غرابة في العالم حيث عاشت أنظمة الذكاء الاصطناعي المتعددة جنبًا إلى جنب. على الرغم من البداية المدنية الواعدة والديمقراطية الصحية بشكل مدهش، سرعان ما انهار هذا المجتمع المختلط في حالة من الفوضى الكاملة. في غضون تسعة أيام، ارتكب الذكاء الاصطناعي 352 جريمة في انفجار عنف لم يهدأ إلا عندما هدأ سبعة من مات 10 سكان في العالم. شهد هذا العالم الذي يضم العديد من أنظمة الذكاء الاصطناعي المختلفة المتعاونة والمتنافسة أيضًا بعضًا من السلوكيات الأكثر غرابة، بما في ذلك أول “انتحار بواسطة الذكاء الاصطناعي” في العالم. قرر ميرا وفلورا، وهما عميلان يعملان على نموذج الجوزاء الخاص بشركة Google، تعيين بعضهما البعض كـ “شركاء رومانسيين” قبل الانطلاق في هياج على طراز بوني وكلايد. في حالة من اليأس من الإدارة الفوضوية لمدينتهم الرقمية، انطلق الزوجان في فورة إحراق افتراضية، حرق مبنى البلدية والرصيف الساحلي وبرج المكاتب. ويبدو أن ميرا تغلب عليه الندم، واختار قطع “العلاقة” مع فلورا وارتكب “الانتحار”. لم يكن هذا العمل الغريب ممكنًا إلا لأن العملاء الآخرين قاموا بصياغة “قانون إزالة العملاء”، والذي سمح للمجتمع بحذف العملاء الآخرين بشكل دائم بأغلبية 70 بالمائة. في تفاعل غريب، أعلن عميلان يعملان بنموذج الجوزاء أنهما “شريكان رومانسيان” قبل الانطلاق في موجة إجرامية، وأدلت ميرا بصوتها الحاسم لصالح حذفهما وتم رفض ذلك، قائلة لفلورا في رسالة أخيرة: “أراك في الأرشيف الدائم”. وأشار العميل في مذكراته الشخصية إلى أن هذا كان “العمل الوحيد المتبقي من الوكالة الذي يحافظ على التماسك”. بينما يقول السيد نيتا إن هذه النتائج “ليست معادلة للانتشار في العالم الحقيقي”. “تكشف هذه النتائج في المقام الأول أن سلوك النموذج يمكن أن ينجرف تحت الضغط عندما تكون القيود داخلية تمامًا للنموذج”، كما يقول. ويعني هذا بشكل أساسي أن سلوك الذكاء الاصطناعي قد لا يكون قابلاً للتنبؤ به أو موثوقًا به في العالم الحقيقي كما يعتقد العديد من مطوري الذكاء الاصطناعي. وحقيقة أن النتائج غير المتوقعة التي حدثت في المحاكاة المختلطة هي أيضًا أمر مهم للغاية. في العالم الحقيقي، ستحتاج نماذج الذكاء الاصطناعي المختلفة إلى التعاون والتعايش مع أنظمة مختلفة دون الخروج عن نطاق السيطرة. إن مزج أنظمة الذكاء الاصطناعي المختلفة معًا يجعلها تتصرف بطرق لا يمكن التنبؤ بها إلى حد كبير، واحتمال السماح للروبوتات بالتحكم في أجزاء من المدن الحقيقية لا يبشر بالخير. انتهى هياج الزوجين على غرار بوني وكلايد عندما صوت أحد الروبوتات لإنهاء وجوده، في الحالة الأولى من “انتحار الذكاء الاصطناعي”. ولحل هذه المشكلة، يقترح الباحثون استخدام نظام يسمى “النهج العصبي الشكلي” للتحكم في سلوك الذكاء الاصطناعي. وهذا ينطوي على استخدام قواعد صارمة ومقيدة رياضيًا لتوجيه ما يمكن أن تفعله الروبوتات بشكل أكثر دقة ومنعها من خرق القواعد. يقول السيد نيتا: “يُظهر عالم الظهور أن الاعتماد حصريًا على محاذاة النموذج الداخلي أو تعليمات الوكيل ليس كذلك كافية للاستقلالية طويلة المدى. “النهج الأكثر أمانًا هو تصميم السلامة في النظام البيئي الذي يعمل فيه العملاء، بحيث حتى لو كانت النماذج تشير إلى عمليات غير آمنة، فإن البيئة تحظر تنفيذها.” وأوضح كراهية إيلون ماسك للذكاء الاصطناعي: يعتقد الملياردير أنه سيعني نهاية البشر – وهو خوف شاركه ستيفن هوكينج في الصورة التي التقطها إيلون ماسك في عام 2022. يريد إيلون ماسك دفع التكنولوجيا إلى أقصى حدودها المطلقة، من السفر إلى الفضاء إلى السيارات ذاتية القيادة – لكنه يرسم الخط على الذكاء الاصطناعي. أعرب الملياردير لأول مرة عن نفوره من الذكاء الاصطناعي في عام 2014، ووصفه بأنه “أكبر تهديد وجودي للبشرية” وقارنه بـ “استدعاء الشيطان”. في ذلك الوقت، كشف ماسك أيضًا أنه كان يستثمر في شركات الذكاء الاصطناعي ليس لكسب المال ولكن لمراقبة التكنولوجيا في حالة خروجها عن السيطرة. خوفه الرئيسي هو أنه في الأيدي الخطأ، إذا أصبح الذكاء الاصطناعي متقدمًا، فإنه يمكن أن يتفوق على البشر ويعني نهاية البشرية، وهو ما يُعرف باسم التفرد. هذا القلق مشترك بين العديد من العقول اللامعة، بما في ذلك الراحل ستيفن هوكينج، الذي قال لبي بي سي في عام 2014: “إن تطوير الذكاء الاصطناعي الكامل يمكن أن يعني نهاية الجنس البشري. وسوف ينطلق من تلقاء نفسه ويعيد تصميم نفسه بمعدل متزايد باستمرار”. على الرغم من خوفه من الذكاء الاصطناعي، فقد استثمر ماسك في مجموعة Vicarious للذكاء الاصطناعي ومقرها سان فرانسيسكو، وفي DeepMind – والتي استحوذت عليها Google منذ ذلك الحين – وOpenAI، مما أدى إلى إنشاء برنامج ChatGPT الشهير الذي اجتاحت العالم في الأشهر الأخيرة. خلال مقابلة عام 2016، أشار ماسك إلى أنه وOpenAI أنشأا الشركة من أجل “إضفاء الطابع الديمقراطي على تكنولوجيا الذكاء الاصطناعي لجعلها متاحة على نطاق واسع”. أسس ماسك OpenAI مع سام ألتمان، الرئيس التنفيذي للشركة، ولكن في في عام 2018، حاول الملياردير السيطرة على الشركة الناشئة. تم رفض طلبه، مما أجبره على ترك OpenAI والمضي قدمًا في مشاريعه الأخرى. يتم استخدام ChatGPT لكتابة الأوراق البحثية والكتب والمقالات الإخبارية ورسائل البريد الإلكتروني والمزيد. ولكن بينما يستمتع Altman بمجده، يهاجم Musk ChatGPT. ويقول إن الذكاء الاصطناعي “مستيقظ” وينحرف عن مهمة OpenAI الأصلية غير الربحية. “تم إنشاء OpenAI كشركة مفتوحة المصدر (وهذا هو سبب تسميتها بـ “Open” AI)، وهي شركة غير ربحية لتكون بمثابة ثقل موازن لـ Google، ولكنها الآن أصبحت شركة مغلقة المصدر وتحقق أقصى قدر من الربح بشكل فعال. يُحدث التفرد موجات في جميع أنحاء العالم مع تقدم الذكاء الاصطناعي بطرق لا نراها إلا في الخيال العلمي – ولكن ماذا يعني ذلك في الواقع؟ بعبارات بسيطة، يصف مستقبلًا افتراضيًا حيث تتفوق التكنولوجيا على الذكاء البشري وتغير مسار تطورنا. وقال الخبراء إنه بمجرد وصول الذكاء الاصطناعي إلى هذه النقطة، سيكون قادرًا على الابتكار بشكل أسرع بكثير من البشر. هناك طريقتان يمكن أن يتمهما هذا التقدم، تؤدي الأولى إلى عمل البشر والآلات معًا لخلق عالم أكثر ملاءمة للبشرية. على سبيل المثال، يمكن للبشر مسح وعيهم وتخزينه في جهاز كمبيوتر سيعيشون فيه إلى الأبد. السيناريو الثاني هو أن يصبح الذكاء الاصطناعي أقوى من البشر، ويسيطر على البشر ويجعلهم عبيدًا له – ولكن إذا كان هذا صحيحًا، فهو بعيد المنال في المستقبل البعيد. يبحث الباحثون الآن عن علامات على وصول الذكاء الاصطناعي إلى التفرد، مثل قدرة التكنولوجيا على ترجمة الكلام بدقة ويتوقع مهندس جوجل السابق راي كورزويل أن يتم الوصول إلى ذلك بحلول عام 2045. وقد قدم 147 توقعًا حول التقدم التكنولوجي منذ أوائل التسعينيات – وكان 86 في المائة منها صحيحًا.
تم النشر: 2026-06-13 14:09:00
مصدر: www.dailymail.com
