لماذا لا يمكن أن تبقى المحاذاة على هامش اعتماد الذكاء الاصطناعي
نظرًا لأن الإنفاق العالمي على الذكاء الاصطناعي يتجاوز 2.5 تريليون دولار هذا العام، فإن العديد من الشركات لا تزال لا ترى عوائد ذات مغزى. ومع تزايد الضغوط لتبرير الاستثمارات، فإنهم يراهنون على عملاء الذكاء الاصطناعي لتصحيح مسار السفينة. ولكن إذا كان الوكلاء سيقدمون القيمة التي تنتظرها الشركات، فلا يمكن أن تكون المواءمة مع الحكم البشري فكرة لاحقة. عندما تدعم الشركات برامج حوكمة الذكاء الاصطناعي الخاصة بها، فإنها غالبًا ما تبدأ بالمخزونات، وحواجز الحماية الأمنية، وسياسات الوصول، والمراقبة. أنا أسمي هذا الاحتواء. فكر في الأمر مثل الفرامل في السيارة ذاتية القيادة. إنها البرمجة التي تسمح للأنظمة بالاستجابة لإشارات التوقف وإشارات المرور والقواعد الرسمية الأخرى للطريق. يخبر الاحتواء النظام بما لا يمكنه فعله. لكن عملاء الذكاء الاصطناعي يجبرون الشركات على مواجهة تحدي وجودي أكبر: دمج الحكم البشري في أنظمة مستقلة تتخذ القرارات بسرعة الذكاء الاصطناعي. كيف نصمم الذكاء الاصطناعي ليعمل ضمن قيم المنظمة وسياساتها وقدرتها على تحمل المخاطر وفهم السياق مع تغير الظروف؟ هذا هو التوافق. تساعد المحاذاة في تحديد ما يجب على النظام فعله عندما تعتمد الإجابة الصحيحة على السياق. في حين أن حواجز الحماية يمكن أن تمنع الوكيل من عبور الخط، إلا أنها لا تخبر الوكيل بكيفية ممارسة الحكم عندما لا يتم وضع علامة واضحة على أي خط. فكر في الأمر على أنه قدرة السيارة ذاتية القيادة على قراءة السياق والاستسلام لموكب الجنازة، حتى في حالة عدم وجود قانون معمول به. وهذا يشمل الامتثال للسياسات، وقواعد استخدام البيانات، والحواجز الأخلاقية، ولكنه يعني أيضًا ربط الوكلاء بنتائج الأعمال الفعلية التي تحاول المنظمة تحقيقها. الوكيل الذي يتبع كل قاعدة بينما ينحرف عن الأولويات الإستراتيجية للشركة ووعد العلامة التجارية لا يزال غير متوافق. غالبًا ما يطبق الموظفون هذا الحكم باعتباره طبيعة ثانية. فنحن نلاحظ السلوكيات مع مرور الوقت، وندرك الفروق الإقليمية والثقافية الدقيقة، ونتحدى فكرة تبدو جيدة على الورق ولكنها تفشل في العالم الحقيقي، ونفهم عندما تؤدي الأساليب إلى الإضرار بالنتيجة. لكن عملاء الذكاء الاصطناعي لا يفعلون ذلك. مخاطر التحسين المستمر هناك مثال أستخدمه لشرح الحاجة إلى المواءمة. تحتوي خدمة الاشتراك في الوجبات على وكيل تسويق مصمم لتحسين أداء الحملة. من خلال ميزانية وأهداف محددة، يستطيع الوكيل الوصول إلى مجموعات البيانات وتحليل سجلات الدردشة والدعم وتحديد شرائح العملاء وتقديم العروض الترويجية. وبحلول الوقت الذي تنتهي فيه الحملة، يكون الوكيل قد وصل إلى أهدافه في المبيعات والربحية. ولكن خلف الكواليس، حدث شيء آخر. قدم الوكيل إعلانات قوية بأسعار أعلى متخفية في شكل “خصومات لفترة محدودة” للأشخاص الذين ذكروا سابقًا ضغوطًا مالية أو مخاوف صحية أثناء مكالمات الدعم والمحادثات. وعندما تصبح الحادثة علنية، تكون التداعيات واسعة النطاق. إن التلاعب بالأسعار – الذي يستهدف بشكل خاص عملاء الشركة الأكثر ضعفًا – ينتهك سياسة الاستخدام الأخلاقي ويتعارض بشكل مباشر مع بيان مهمة الشركة وقيمها. ونتيجة لذلك، يقوم العملاء بإلغاء اشتراكاتهم بشكل جماعي، ويبدأ المنظمون تحقيقًا، ويتم فقدان أي إيرادات تم الحصول عليها من خلال الحملة الأولية. توضح هذه القصة مدى السرعة التي يمكن أن يتسبب بها الوكيل في حدوث مشكلات دون حدوث أي خلل فني على الإطلاق. لم يكن استغلال بعض العملاء جزءًا من المطالبة؛ لقد كان النمط فقط هو الذي أدى إلى تحسين النتائج. يمكن أن يحدث التمييز وقضايا الخصوصية وانتهاكات السياسة بغض النظر عن نية الشركة. وفي النهاية، يرجع ذلك إلى أن الوكلاء عبارة عن أنظمة مدربة لتحقيق أقصى قدر من الكفاءة. يمكّنهم التحسين المستمر من إكمال أهدافهم. وهذا أيضًا هو السبب وراء حاجة الوكلاء إلى التوافق. إلى جانب حواجز الأمن والوصول، تضمن السياسات تحسين الوكلاء فقط ضمن الحدود التي تحددها الشركة. نحن في نقطة انعطاف تتوقع جارتنر أن المؤسسات الكبيرة سيكون لديها أكثر من 150.000 وكيل قيد الاستخدام بحلول عام 2028، مقارنة بأكثر من اثني عشر وكيلًا لكل شركة اليوم. وهذا الرقم يرتفع بسرعة بفضل اتجاهات مثل Tokenmaxxing وحوافز الشركات للاستفادة من الذكاء الاصطناعي. والآن، أصبح التحدي هو كيفية ترميز الوكلاء باستخدام الحكم البشري على نطاق واسع. تم إنشاء عمليات المراجعة اليدوية التقليدية لأنظمة أبطأ وأكثر ثباتًا، حيث كان لدى الفرق الوقت الكافي لفحص المشكلات ورصدها وحلها قبل الإنتاج. لسوء الحظ، لا يمكن لأي قدر من التوظيف أن يساعدك على مواكبة المئات، وفي النهاية عشرات الآلاف من الوكلاء الذين يقومون بتحسين سرعة الذكاء الاصطناعي. والخبر السار هو أن هناك عددًا أقل من وكلاء الذكاء الاصطناعي اليوم مقارنة بأي وقت مضى. لقد حان الوقت لإنشاء حوكمة تلقائية، وفهرسة وكلائك، وتحديد سياساتك الأساسية، وتنفيذها جنبًا إلى جنب مع الضوابط الأمنية وحواجز الحماية. من الأسهل كثيرًا توسيع نطاق البرنامج مع نمو القوى العاملة لدى وكيلك بدلاً من محاولة تعديله لاحقًا. إن بناء الذكاء الاصطناعي من أجل السرعة وحده يعد قصر نظر. يجب أن يكون هدفنا هو بناء ذكاء اصطناعي يتحرك بسرعة – في الاتجاه الصحيح. بليك برانون هو كبير مسؤولي الابتكار في OneTrust. انضم إلينا في مدينة نيويورك في شهر سبتمبر من هذا العام لحضور مهرجان Fast Company Innovation Festival السنوي. التذاكر ذات الأسعار المتقدمة متاحة الآن حتى يوم الأحد 12 يوليو. احصل على تذاكر المهرجان الخاصة بك اليوم.
تم النشر: 2026-06-22 20:00:00
مصدر: www.fastcompany.com
