يقول المطورون إن لعبة Anthropic’s Claude Fable 5 تلعب دورًا آمنًا للغاية فيما يتعلق بالسلامة
أطلقت أنثروبيك يوم الثلاثاء كلود فابل 5، نموذجها العام الأكثر قدرة. ولكن في غضون يومين، بدأ المستخدمون في الإبلاغ عن أن نظام الأمان الخاص به كان يحظر المطالبات الحميدة أو المشروعة. Fable 5 هو أول نموذج عام مشتق من عائلة Anthropic’s Mythos، التي أظهر تكرارها الأصلي مهارة غير عادية أثناء التدريب على العثور على أخطاء برمجية واستغلالها لتعطيل الأنظمة أو السيطرة عليها. وقد أثار ذلك ما يكفي من القلق داخل Anthropic، حيث قامت الشركة بتجميع الأمن السيبراني مع المجالات الأخرى عالية المخاطر، بما في ذلك البيولوجيا والكيمياء، عند وضع حدود للنماذج العامة المشتقة من Mythos. بالنسبة لـ Fable 5، هذا يعني أن المطالبات التي تم وضع علامة عليها على أنها حساسة في تلك المناطق يتم توجيهها إلى Claude Opus 4.8، وهو نموذج أقل قدرة مع حواجز حماية خاصة به. تقول Anthropic إن الإجراء الاحتياطي يؤثر على حوالي 0.05% من الاستعلامات ويُعلم المستخدمين عند حدوثه. لكن التقارير عن التقارير الإيجابية الكاذبة تزايدت بسرعة. وذلك لأن شركة Anthropic أخطأت في جانب الحذر عندما صممت المصنفات المستخدمة لكشف وتخفيض الاستخدامات التي يحتمل أن تكون خطرة لنموذجها. لقد تم أيضًا تحدي الموازنة بين الدقة والشفافية. حاول إخبار المطورين بذلك. عبر وسائل التواصل الاجتماعي، اشتكى الناس من رفض كلود فابل 5 الاستفسارات حول كل شيء بدءًا من بيانات تسلسل الحمض النووي الريبي للأغنام إلى تحرير السيرة الذاتية وقوائم التسوق. “لقد تم وضع علامة على كلمة “السرطان” باعتبارها خطراً على الأمن البيولوجي من قبل كلود فابل 5!” قالت العالمة Derya Unutmazon X. “إن أسيادنا الأنثروبيين هم الذين يقررون ما الذي يسمح للفلاحين باستخدامه.” أضاف المؤسس والمطور Bojan Tunguz على X.Anthropic الآن أنه يعمل على حل المشكلة. يقول Anthropic في بيان أرسل عبر البريد الإلكتروني إلى شركة Fast Company: “من الصعب التحقيق في الحماية الخفية والتغلب عليها”. “وهذا يعني أن الضمانات يمكن استهدافها بشكل أضيق بكثير. فالضمانات الواضحة تحتاج إلى إلقاء شبكة أوسع لتكون أكثر قوة، مما يؤدي إلى الإبلاغ عن المزيد من الطلبات بشكل غير صحيح.”
تم النشر: 2026-06-11 22:16:00
مصدر: www.fastcompany.com
