يشعر جميع مديري الأمن تقريبًا بالقلق بشأن سلامة الذكاء الاصطناعي، حيث يقول ثلثهم إنهم ما زالوا يعتمدون على مراجعة التعليمات البرمجية يدويًا قبل الإطلاق
تنمو التعليمات البرمجية المولدة بواسطة الذكاء الاصطناعي بشكل أسرع من آليات الرقابة الأمنية، وتكافح المراجعات اليدوية لمواكبة البرامج المولدة آليًا، ويخشى قادة الأمن انتشار أنماط الترميز غير الآمنة عبر خطوط التطوير، وقد انتشر مساعدو تشفير الذكاء الاصطناعي عبر فرق التطوير بشكل أسرع مما يمكن لأطر الأمان التكيف معه. وقد زعم بحث جديد لـ Salt Security أن 90٪ من قادة الأمن يبلغون الآن عن مخاوف نشطة بشأن المخاطر التي تشكلها البرامج المولدة بالذكاء الاصطناعي. ومع ذلك، تواصل المؤسسات تبني أدوات الذكاء الاصطناعي لأنها تسرع مهام الترميز، وتقلل من الوقت الذي تقضيه في المهام المتكررة. العمل، وزيادة سرعة تسليم البرامج. أحدث مقاطع الفيديو من مراجعة Human لا يمكنها التعامل مع سرعة الذكاء الاصطناعي، يعتقد قادة الأمن أن ممارسات التطوير المصممة قبل أن يصبح الذكاء الاصطناعي سائدًا ربما لم تعد توفر إشرافًا كافيًا. حدد ما يقرب من الثلث (29٪) من المشاركين في الاستطلاع أن أنماط الترميز غير الآمنة هي الخطر الرئيسي الذي يقدمه مساعدو الذكاء الاصطناعي. قد يعجبك أن تتعلم هذه الأنظمة من مجموعات بيانات التدريب الضخمة التي تحتوي على عيوبها وممارساتها القديمة. يمكن لأداة الذكاء الاصطناعي إنشاء تعليمات برمجية تبدو وظيفية بكامل طاقتها بينما تعيد إنتاج نقاط الضعف التي قد يكون الإنسان قد اكتشفها بهدوء. اشترك في النشرة الإخبارية لـ TechRadar Pro للحصول على أهم الأخبار والآراء والميزات والإرشادات التي يحتاجها عملك لتحقيق النجاح! تشبه هذه المشكلة كيف يجب على برامج مكافحة الفيروسات تحديث تعريفاتها باستمرار لأن التهديدات الجديدة تظهر بشكل أسرع من نمو قواعد بيانات التوقيع. والفرق هنا هو أنه لا توجد سلطة مركزية يتتبع كل نمط غير آمن قد يكرره الذكاء الاصطناعي – على الرغم من القلق الواسع النطاق الذي يسببه الذكاء الاصطناعي، لا يزال أكثر من ثلث المؤسسات يعتمد على مراجعات التعليمات البرمجية اليدوية قبل أي إطلاق. ويصبح الاعتماد على الفحص البشري مشكلة هيكلية عندما ينتج الذكاء الاصطناعي تعليمات برمجية بكميات لا يستطيع أي فريق فحصها بدقة. ما يجب قراءته بعد ذلك، نجحت هذه الطريقة عندما كتب المطورون برامج بالسرعة البشرية، لكنها فشلت عندما قام الذكاء الاصطناعي بتسريع الإنتاج بشكل كبير. يبدأ إرهاق المراجعين بسرعة، وتطبق الفرق المعايير بشكل غير متسق، ويتم تفسير متطلبات الأمان بشكل مختلف عبر الأقسام. قال روي إلياهو، الرئيس التنفيذي والمؤسس المشارك لشركة Salt Security: “إن مساعدي تشفير الذكاء الاصطناعي يغيرون بشكل أساسي كيفية بناء البرامج، لكن الحوكمة لم تواكب هذه الوتيرة”. عالم ما قبل الذكاء الاصطناعي. “لا يمكن توسيع هذا النهج بشكل أفضل من استخدام صندوق بريد إلكتروني واحد للتعامل مع ملايين الرسائل اليومية دون تصفية أو أتمتة. تعقيد المؤسسة يجعل التنفيذ أكثر صعوبة. تواجه المؤسسات الكبيرة التي تضم أكثر من 500 موظف تحديات حوكمة لا تواجهها الشركات الصغيرة ببساطة. تستخدم الفرق الموزعة أدوات مختلفة، وتتبع مسارات عمل متنوعة، وتطبق معايير الأمان بدقة غير متسقة عبر المناطق. وينمو خطر اعتماد المطورين المفرط على مساعدي الذكاء الاصطناعي بشكل متناسب مع حجم الفريق والتسليم. الضغط. وقد حذرت وكالات الأمن، بما في ذلك هيئات الأمن السيبراني الحكومية، سابقًا من أن أنظمة الذكاء الاصطناعي تعمل على توسيع مساحات الهجوم وتعقيد هياكل المساءلة بشكل كبير. وبدون رؤية أفضل للمكان الذي تدخل فيه التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، تظل الحوكمة مجرد تخمين في شكل عملية. إن التعامل مع مساعدي تشفير الذكاء الاصطناعي كمكونات في سلسلة توريد البرامج – على غرار فحص أي مخاطر للبرامج الضارة لجهة خارجية – يوفر مسارًا أكثر واقعية للأمام من الأمل في أن تلحق المراجعة اليدوية بالركب بطريقة أو بأخرى. اتبع TechRadar على أخبار Google وأضفنا كمصدر مفضل للحصول على خبرائنا الأخبار والمراجعات والآراء في خلاصاتك
تم النشر: 2026-06-12 01:20:00
مصدر: www.techradar.com
