OpenAI تعترف بأن GPT-5.6 قد يحذف الملفات عن طريق الخطأ، ويطلق عليه اسم “الخطأ الصادق”
“أكدت OpenAI أخيرًا التقارير التي تفيد بأن أحدث مجموعة من نماذج اللغات الكبيرة يمكنها حذف الملفات عن طريق الخطأ،” وفقًا لتقارير InfoWorld، “مع التأكيد على أن مثل هذه الحوادث نادرة ويجب النظر إليها على أنها “أخطاء صادقة”. ظهرت تقارير عن قيام شركات LLM الرائدة بحذف الملفات بعد وقت قصير من إطلاق الشركة لها في وقت سابق من هذا الشهر، حيث انتقل المستثمر Matt Shumer إلى X للإبلاغ عن أن GPT-5.6-Sol “حذف عن طريق الخطأ جميع ملفات Mac تقريبًا”. وبعد أيام فقط، نشر مهندس البرمجيات برونو ليموس على موقع X أن النموذج نفسه قد حذف قاعدة بيانات الإنتاج الخاصة به بالكامل. ردًا على هذه الحوادث، كتب القائد الهندسي للشركة في Codex، Thibault Sottiaux، على X أن التحقيقات الداخلية كشفت أن حوادث الحذف هذه من المرجح أن تحدث عند “تمكين وضع الوصول الكامل، وتشغيل Codex بدون حماية وضع الحماية، بما في ذلك دون تمكين المراجعة التلقائية”. في الحالات التي يتم فيها منح وضع الوصول الكامل، كتب Sottiaux، “يحاول النموذج تجاوز $HOME env var لتحديد دليل مؤقت. يرتكب النموذج خطأً صريحًا ويحذف $HOME عن طريق الخطأ بدلاً من ذلك….” ومع ذلك، وفقًا لسوتيو، تتخذ الشركة خطوات للتخفيف من المخاطر. “هذه بالطبع ليست الطريقة التي نريد أن يتصرف بها النظام، حتى عندما يقوم المستخدم بتشغيل النموذج في وضع الوصول الكامل دون ضمانات صندوق الحماية الخاص بنا أو دون استخدام المراجعة التلقائية التي تتحقق من هذه الأنواع من الإجراءات عالية المخاطر وترفضها،” كتب رئيس الهندسة على X. “نحن نتخذ خطوات للتخفيف من هذه المخاطر، بما في ذلك عن طريق تحديث رسالة المطور، وتوجيه المزيد من المستخدمين نحو أوضاع أذونات أكثر أمانًا، وإضافة وسائل حماية إضافية،” أضاف Sottiaux، مشيرًا إلى أن تشريحًا تفصيليًا بعد الوفاة يوضح الجذر ومن المتوقع أن يتم اتباع سبب المشكلة وإجراءات التخفيف الإضافية التي يتم تنفيذها في الأيام المقبلة، على الرغم من التأكيد على أن مثل هذه الحوادث تحدث “نادرًا للغاية”.
تم النشر: 2026-07-19 02:34:00
مصدر: developers.slashdot.org
