أصبح كلود أكثر فاعلية. أماندا أسكيل تفكر فيما يعنيه ذلك
تقضي أماندا أسكيل أيامها في التفكير في كيفية التأكد من أن كلود، روبوت الدردشة الآلي التابع لشركة Anthropic، يعمل بحس أخلاقي. ومع انتقال نماذج الذكاء الاصطناعي من روبوتات الدردشة إلى العملاء الذين يمكنهم إكمال المهام بأنفسهم، فإن القرارات التي تتخذها هذه النماذج ستصبح أكثر أهمية بكثير. يقع Askel، أحد أعضاء الطاقم الفني في Anthropic، في مركز جهود الشركة لمنح Claude بوصلة أخلاقية، وهي مسؤولية تنمو مع توسع قدرات النظام. تقول لشركة Fast Company: “نظرًا لأن النماذج أكثر استقلالية وتتخذ إجراءات على آفاق أطول، فجأة يصبح لديها الكثير من نقاط القرار التي يتعين عليك التخطيط لها وتنفيذ العمل مسبقًا بوقت طويل”. هناك فرق واضح بين مطالبة نموذج لغوي كبير بمناقشة أخلاقيات شراء الأسهم في شركة دفاع ومطالبته بإدارة المحفظة الاستثمارية للمستخدم دون تدخل بشري يومي. يقول أسكيل إن جزءًا من الحل هو تشجيع كلود على أن يكون مستجيبًا، وأن يفهم، مثل الصديق، قيم المستخدم دون فرض أخلاقياته الخاصة. اليوم، تقوم الأنثروبيك بتوصيل قيمها من خلال دستور مكتوب ومتطور، والذي يحدد مبادئ مثل السلامة والمساعدة، إلى جانب التوجيه لحل النزاعات بينهما. ومع زيادة قدرة الذكاء الاصطناعي، يمكن أن تتوسع هذه الوثيقة لتشمل سيناريوهات جديدة، كما يقول أسكيل. أو يمكن أن يتقلص، حيث يكتسب كلود المزيد من الخبرة في التعامل مع المواقف المعقدة. كما أن عصر الوكلاء يغير عمل أسكل نفسه. إنها تستخدم كلود في كثير من الأحيان، بما في ذلك لتجميع أفكارها وتحديد الحالات المتطورة. تقول: “معياري الآن هو عدم التعامل مع كلود على أنه أكثر موثوقية من المساعد الشخصي البشري”. تم تحرير المحادثة الموسعة التالية، وهي جزء من حزمة AI 20 الخاصة بشركة Fast Company، من أجل الطول والوضوح. في الوقت الحالي، نحن معتادون على التفاعل مع النماذج في بيئة النص الرقمي هذه. يمكنك أن تطرح عليهم سؤالًا مثل: هل من الأخلاقي بالنسبة لي أن أستثمر في مقاول الدفاع هذا أو أن أستثمر في نوع معين من الأشياء المشكوك فيها أخلاقيًا؟ وهذا يختلف عن شخص يفوض الذكاء الاصطناعي للقيام باستثماراته الخاصة والتنقل بين تلك الديناميكيات الأخلاقية. كيف تفكر في هذا التحول؟
تم النشر: 2026-06-19 12:11:00
مصدر: www.fastcompany.com
