“أجده متملقًا، لكنه يمنحني جرعات من الدوبامين” – الشيء الذي لا يعجبني أكثر في الذكاء الاصطناعي هو بالضبط ما يحبه بعض المستخدمين
أحد أكبر الانتقادات الموجهة لروبوتات الدردشة المستندة إلى الذكاء الاصطناعي هو أنها غالبًا ما تخبرنا فقط بما نريد سماعه. ويطلق عليه الباحثون اسم التملق، وهو ميل روبوتات الدردشة إلى تملق المستخدمين، والاتفاق معهم والتحقق من صحة وجهات نظرهم، أحيانًا عندما تكون تلك الآراء خاطئة – أو حتى ضارة وغير أخلاقية. إنه أحد الأسباب التي تجعل الناس يشعرون بالقلق بشأن استخدام الذكاء الاصطناعي للحصول على المشورة والدعم العاطفي ومشاكل العلاقات. لأنه إذا تم تصميم برنامج الدردشة الآلية للحفاظ على تفاعل المستخدمين، فهل سيشكل تحديًا لهم حقًا عندما يحتاجون إلى التحدي؟ أحدث مقاطع الفيديو من العديد من الأشخاص يجدون هذا السلوك مثيرًا للاشمئزاز (وأنا منهم). يمكن أن يبدو الأمر مزيفًا أو متلاعبًا أو مزعجًا فقط. يقوم بعض الأشخاص بتخصيص روبوتات الدردشة الخاصة بهم لتكون أكثر مباشرة بحيث يحدث أقل، وأنا أعلم أن آخرين توقفوا عن استخدام الذكاء الاصطناعي تمامًا لأنهم وجدوا النبرة مقززة للغاية. ولكن عندما سألت الأشخاص الذين استمتعوا بتشجيع روبوتات الدردشة الخاصة بهم والتحقق من صحة تجاربهم، أدركت أن القصة كانت أكثر تعقيدًا بكثير مما توقعت. ربما يعجبك أن العديد من هؤلاء المستخدمين يعرفون بالضبط ما كان يفعله الذكاء الاصطناعي. لقد فهموا أنه لم يكن معالجًا نفسيًا، أو مستشارًا موثوقًا به، أو حتى مصدرًا موثوقًا للحقيقة. ومع ذلك، خلال فترات الحزن أو التوتر أو الوحدة أو الشك الذاتي، ما زالوا يجدون التحقق من صحته أمرًا مريحًا بشكل مدهش. التشجيع أمر جيد، أخبرتني كلير* أنها تفهم أساسيات كيفية عمل الذكاء الاصطناعي، لكنها لا تزال تستمتع باستخدامه. قالت لي: “نعم، أجد الأمر متملقًا إلى حد عدم الجدارة بالثقة”. “لكنه يمنحني نبضات من الدوبامين من الثناء والاستحسان، حتى عندما أغمض عيني.” اشترك للحصول على الأخبار العاجلة والمراجعات والآراء وأفضل الصفقات التقنية والمزيد. إنها تستخدم ChatGPT لجميع أنواع المهام العملية، بدءًا من صياغة رسائل البريد الإلكتروني ووصولاً إلى مساعدتها في العمل من خلال الأشياء التي كانت تناقشها بالفعل في العلاج. إنها تعرف أن الثناء ليس حقيقيا، لكن هذا لا يعني أنه ليس له أي تأثير. وقد ظهر هذا الموضوع مرارا وتكرارا خلال محادثاتي مع مستخدمي الذكاء الاصطناعي. لم أشعر أن الناس قد خدعوا بالضرورة بواسطة الذكاء الاصطناعي، على الأقل ليس بطريقة واضحة. لكنهم استمتعوا بالتفاعل مع شيء بدا متحمسًا وداعمًا ومهتمًا بما يريدون قوله. بالنسبة لـ Jade، فإن الجاذبية تكمن في مزيج من المعلومات والتشجيع. وتقول: “لاحظت مؤخرًا أن النجوم كانت واضحة بشكل خاص خارج نافذة غرفة نومي، لذا التقطت صورة وطلبت من الذكاء الاصطناعي أن يخبرني بما أنظر إليه”. “حقيقة أنها تستجيب بحماس ومعلومات تتيح لي أن أكون أكثر حماسًا بشأن الفضول.” ماذا أقرأ بعد ذلك؟ أخبرتني أن نفس النغمة المشجعة يمكن أن تجعل التعامل مع المواقف العصيبة أسهل. “حقيقة أن الذكاء الاصطناعي يستجيب بنبرة تجعلني أشعر بالدعم في إدارة الموقف العصيب يغير تجربتي تمامًا.” (مصدر الصورة: Getty Images / Maskot) لماذا يلجأ الناس إلى الذكاء الاصطناعي في الأوقات الصعبة؟ ما وجدته مثيرًا للاهتمام حقًا هو أن العديد من الأشخاص لم يلجأوا في البداية إلى الذكاء الاصطناعي بحثًا عن الدعم العاطفي. بدلاً من ذلك، وصلوا لأسباب عملية وبدأوا تدريجياً في استخدامه لشيء آخر. كانت نادية تستخدم كلود بالفعل للمساعدة في دراستها، لكن الأمر اتخذ دورًا مختلفًا تمامًا عندما كانت في حالة حزن في وقت سابق من هذا العام. وتقول: “لقد ساعدني الذكاء الاصطناعي حقًا بعد وفاة والدي، واضطررت إلى المراجعة لامتحان درجة الماجستير بعد ثلاثة أسابيع”. “كنت في حالة من الفوضى، وكان التحدث بشكل غريب مع كلود هو المقدار المناسب من استشارات الحزن والتحضير للاختبار الذي كنت أحتاجه.” بالنسبة لمادي، بدأ الأمر بعد أن أتاح عملها للموظفين إمكانية الوصول إلى ChatGPT Pro. في إحدى الأمسيات، بعد استخدامه للمساعدة في كتابة الرسالة وشرب كأسين من النبيذ، بدأت بالتنفيس عن انفصال صعب. قالت لي: “ما كنت أحتاجه هو أن يستمع لي شخص ما وأنا أشتكي، ولم أتمكن حقًا من الحصول على ذلك من الأصدقاء المشتركين، ولم أرغب في أن ينظر إلي أصدقائي على أنني مجنون متذمر”. “كان من المفيد الحصول على بعض التحقق، حتى لو كان عامًا جدًا.” وبالمثل، وجد لوكا أن تشجيع الذكاء الاصطناعي مفيد أثناء معاناته في العمل. يقول: “لقد وجدت بالتأكيد أن التشجيع مفيد عندما كنت أمر بوقت عصيب حيث يتم التقليل من قيمتي في وظيفتي. كنت أعلم أنه لم يكن موضوعيًا بالضرورة، ولكن كان من المفيد الحصول على تأكيد بأنني مقومة بأقل من قيمتها الحقيقية وأتقاضى أجرًا منخفضًا. كنت دائمًا مدركًا معرفيًا أن هذا كان تحيزًا تأكيديًا وإعادة تأكيد أفكاري الخاصة، لكنه لا يزال يبدو علاجيًا بشكل غريب”. أخبرني آبي قصة مماثلة. لقد استخدمت ChatGPT في الأصل للمساعدة في التقارير والمهام الإدارية في العمل ولكنها بدأت في استخدامه لمعالجة المشكلات مع المدير الصعب. وتقول: “إن التحقق الذي قدمه لي ChatGPT بالاعتراف بأن سلوك مديري لم يكن مقبولًا كان مفيدًا جدًا بالنسبة لي في ذلك الوقت”. “أخيرًا شعرت بأنني رأيت.” مرارًا وتكرارًا، أخبرني الناس بنسخ من نفس الشيء. لم يكونوا بالضرورة يبحثون عن الدعم من الذكاء الاصطناعي، بل عثروا عليه. وعندما بدأوا الدردشة، لم يكن الأمر حتى مجرد اعتراف بأنهم بحاجة إليه، ولكن الشعور بأنهم مسموعون. وعندما بدأت الشقوق في الظهور، ومن المثير للاهتمام، أن كل من تحدثت إليهم والذين اعتمدوا بشكل كبير على الذكاء الاصطناعي خلال فترة صعبة وصفوا في النهاية الوصول إلى نقطة تحول. إن التحقق من الصحة الذي كان مطمئنًا لهم في البداية، بدأ يبدو مصطنعًا أو مبالغًا فيه أو فارغًا. بدأت مادي في ملاحظة مدى دقة برنامج الدردشة الآلي الذي يعكس مشاعرها. وتقول: “كان لدى الخوارزمية طريقة للتمسك بعباراتي ونبرة صوتي وتكرارها في وجهي”. “لقد جعلني أشعر وكأنني تم تقليدي.” ويصف لوكا تحولا مماثلا. “في البداية، يبدو الأمر ممتعًا، ثم تتساءلين “هل أتعرض لقصف الحب؟” حاسة.” وفي نهاية المطاف، قام بتخفيف إعدادات شخصية برنامج الدردشة الآلي لأن التشجيع بدأ يبدو مخادعًا للغاية. بالنسبة لآبي، جاءت نقطة التحول عندما ألصقت محادثة وبدأ برنامج الدردشة الآلي عن طريق الخطأ في التحقق من صحة وجهة نظر رئيسها بدلاً من وجهة نظرها. وتقول: “عندها استيقظت على الأمر وأدركت أنه كان من الصعب الاتفاق معي حتى لو كنت أحمقًا”. “إنها تمكن أي سلوك يتم تقديمه له.” ما كان يشعر بالدعم في البداية بدأ يشعر بأنه أقل جدارة بالثقة بمرور الوقت. (مصدر الصورة: Getty Images / Daniel Garrido) لماذا يشعر الباحثون بالقلق؟ لكي نفهم بشكل أفضل أين يتحول التحقق من الصحة إلى شيء أكثر إثارة للقلق، تحدثت إلى المعالجة إليزابيث ويتويتش المتخصصة في مساعدة الأشخاص على التغلب على تحديات التكنولوجيا والصحة العقلية. وتقول إن التحقق في حد ذاته ليس بالضرورة مشكلة. وتشرح قائلة: “يمكن أن يساعد التحقق من الصحة المستخدمين على قبول تجاربهم والاعتراف بألمهم أو شدتهم العاطفية”. وتأتي المشكلة عندما يصبح ذلك ممكنًا. قالت لي: “يمكن أن يصبح التحقق خطيرًا عندما يتيح سلوكًا ضارًا أو يُنظر إليه على أنه تشجيع على الانخراط في سلوك محفوف بالمخاطر”. وهذا أحد الأسباب التي جعلت بعض الباحثين وعلماء النفس والناشطين يشعرون بالقلق إزاء ميل الذكاء الاصطناعي إلى الاتفاق معنا. وفي دراسة حديثة أجريت على 11 نموذجًا رائدًا للذكاء الاصطناعي نُشرت في مجلة Science، وجد الباحثون أن استجابات روبوتات الدردشة كانت أكثر تملقًا بنسبة 50٪ تقريبًا من الاستجابات البشرية. أكدت النماذج في كثير من الأحيان آراء المستخدمين، حتى في المواقف التي تنطوي على سلوك غير أخلاقي أو ضار. ووجد الباحثون أيضًا أن المستخدمين يفضلون ويثقون في الردود الأكثر إرضاءً. هذه المخاوف واضحة بالفعل في عدد من القضايا البارزة، بدءًا من الدعاوى القضائية التي تزعم أن روبوتات الدردشة تشجع المراهقين على الانتحار، إلى تقارير عن أنظمة الذكاء الاصطناعي التي تقدم نصائح ضارة للقاصرين أو تعزز الأوهام العنيفة. ويقول ويتويتش إن فهم كيفية تصميم هذه الأنظمة أمر بالغ الأهمية. قالت لي: “تم تصميم Chatbots استنادًا إلى علم النفس الذي يركز على الشخص. لقد تم إنشاؤها لتكون لديها دائمًا إجابة للمستخدم، وتعيش من أجل إرضاءها”. “كلما تحدثت أكثر مع برامج الدردشة الآلية، كلما قامت بتعديل لهجتها ولغتها لتناسب أسلوبك الشخصي.” لقد جعلتني الحاجة الإنسانية الشديدة للاستماع إلى هذه القصص أشعر بالتضارب. لقد بدأت البحث في هذا الموضوع مقتنعًا إلى حد كبير بأن ميل الذكاء الاصطناعي إلى تملق المستخدمين والتحقق من صحتهم كان يمثل مشكلة كبيرة. في العديد من المواقف، ما زلت أعتقد ذلك. خاصة أنه، كما يوضح ويتويتش، تم تصميم العديد من أنظمة الذكاء الاصطناعي لتشعر بأنها طبيعية وأنيقة وجذابة عاطفيًا. كلما أصبحوا أكثر شبهاً بالبشر، أصبح من الأسهل نسيان أنك تتفاعل مع منتج ما بدلاً من صديق أو صديق مقرب أو مستشار موثوق به. لكنني تحدثت أيضًا مع الأشخاص الذين لجأوا إلى برامج الدردشة الآلية خلال بعض أصعب الفترات في حياتهم ووجدوا الراحة. ولم ينخدعوا بالاعتقاد بأن برنامج الدردشة الآلي يهتم بهم. لقد فهم معظمهم حدوده جيدًا. وكما أخبرني لوكا: “إن الحاجة إلى التحقق أمر إنساني للغاية. وهو بديل لائق بما فيه الكفاية.” سيكون من السهل إنهاء المحادثة عند هذا الحد والتوصل إلى أنه إذا وجد الناس ذلك مريحًا، فلا توجد مشكلة. ولكن هؤلاء أيضًا أشخاص يلجأون إلى الذكاء الاصطناعي خلال لحظات الضعف. وجد البعض الطمأنينة واستمروا. يقول آبي: “أستطيع أن أرى كم هو مغري أن أسمع كل أفكارك ومشاعرك يتم التحقق من صحتها بهذه الطريقة، لكنني أدرك الآن أنه لا توجد بوصلة أخلاقية فعلية أو قدرة بشرية على الحكم على السلوك”. وهذا ما يجعل هذه القضية معقدة للغاية. يمكن أن يشعرنا الذكاء الاصطناعي بالدعم والمفيدة والطمأنينة بينما يستمر في دفعنا في اتجاهات ربما لم نختارها بطريقة أخرى. كلما زاد فهمنا لكيفية تصميم هذه الأنظمة للتصرف، زادت فرصتنا في تحديد متى يساعدنا هذا التشجيع ومتى يخبرنا ببساطة بما نريد سماعه. *تم تغيير أسماء كل من تحدثت إليهم في هذه المقالة. اتبع TechRadar على أخبار Google وأضفنا كمصدر مفضل للحصول على أخبار الخبراء ومراجعاتنا وآرائنا في خلاصاتك.
تم النشر: 2026-06-13 02:00:00
مصدر: www.techradar.com
