الأنثروبيك تحث على التوقف العالمي في تطوير الذكاء الاصطناعي، وتنبه إلى مخاطر “التحسين الذاتي”.
تحث منظمة أنثروبيك مختبرات الذكاء الاصطناعي الرائدة على التفكير في إبطاء عملية التطوير، محذرة من أن النماذج الرائدة تتقدم بسرعة كافية لدرجة أنها قد تكون قادرة قريبًا على تحسين نفسها دون تدخل بشري مباشر. وتقول الشركة إن القدرة العالمية على إيقاف تطوير الذكاء الاصطناعي مؤقتًا أو إبطائه “من المرجح أن تكون أمرًا جيدًا”، مستشهدة ببيانات داخلية حول تسريع قدرات النموذج. من منشور بالمدونة: باستخدام المعايير العامة والبيانات التي لم يتم الإبلاغ عنها مسبقًا من داخل Anthropic، يُظهر معهد Anthropic أن الذكاء الاصطناعي يعمل بالفعل على تسريع تطوير أنظمة الذكاء الاصطناعي. لنأخذ مثالاً واحدًا فقط: اليوم، يقوم المهندسون الإنسانيون في المتوسط بشحن 8 أضعاف التعليمات البرمجية كل ربع سنة كما فعلوا في الفترة من 2021 إلى 2025. تشير الاتجاهات التقنية التي تمت مناقشتها في هذه المقالة إلى أن أنظمة الذكاء الاصطناعي ستصبح أكثر قدرة في السنوات القادمة. ولهذه الاتجاهات آثار ضخمة. إن الذكاء الاصطناعي القادر على بناء نفسه سيكون بمثابة تطور كبير في تاريخ التكنولوجيا، وهو تطور يمكن أن يجلب خيراً هائلاً للعالم في مجالات العلوم والرعاية الصحية وما هو أبعد من ذلك. لكن التحسين الذاتي العودي الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي. وإذا كانت الأنظمة قادرة على بناء الأنظمة التي ستخلفها بشكل كامل، فإن الطرق التي نعتمدها لتأمينها ومراقبتها وتشكيل سلوكها تصبح أكثر أهمية. (…) إذا كان من الممكن إبطاء تطور هذه التكنولوجيا بشكل فعال لمنح أنفسنا المزيد من الوقت للتعامل مع آثارها الهائلة، فإننا نعتقد أن هذا سيكون أمرًا جيدًا على الأرجح. ولكن إذا سمح التباطؤ ببساطة للجهات الفاعلة الأقل حذراً باللحاق بالتكنولوجيا، فقد يجعل الجميع أقل أماناً. وبدون آلية تنسيق عالمية، سيتعين على الشركات والحكومات اتخاذ قرارات صعبة بشأن السلامة في ظل ضغوط تنافسية وجيوسياسية. نعتقد أنه سيكون من الجيد للعالم أن يكون لديه خيار إبطاء أو إيقاف تطوير الذكاء الاصطناعي الحدودي مؤقتًا لتمكين الهياكل المجتمعية وأبحاث المواءمة من مواكبة تقدم التكنولوجيا. وسيقوم معهد الأنثروبولوجيا بإجراء البحوث – بالتعاون مع كثيرين آخرين – واتخاذ الإجراءات اللازمة للمساعدة في بناء الأنظمة التي يتطلبها التباطؤ أو التوقف المؤقت بشكل معقول. ومن شأن هذه الأنظمة أن تمكن مطوري الذكاء الاصطناعي الحدودي من التحقق من أن الآخرين على مستوى العالم قد توقفوا أو أبطأوا بالفعل، وأن الطرف السيئ لا يمكنه استخدام رعاية التباطؤ المنسق للقفز إلى الأمام سرا. إذا كانت مثل هذه الأنظمة موجودة، فإننا نتوقع أننا سوف نتباطأ أو نتوقف مؤقتًا، إذا قام مطورون آخرون عند الحدود أو بالقرب منها بذلك أيضًا بطريقة يمكن التحقق منها…
تم النشر: 2026-06-05 00:00:00
مصدر: slashdot.org
