ماذا حدث عندما استخدمت Meta الذكاء الاصطناعي لحظر الحسابات على Facebook وInstagram
أذهل الإخطار كميل هانسون عندما استيقظت في إحدى الليالي في شهر مارس من هذا العام. تم وضع علامة على حساباتها على Facebook وInstagram، حيث كان لديها ما يقرب من مليون متابع يديرون مشروعًا تجاريًا مع زوجها لتعليم اللغة الإنجليزية لغير الناطقين بها، تم وضع علامة عليها للحذف. وقالت ميتا إنها انتهكت إرشادات المجتمع الخاصة بالاحتيال والخداع. وتذكرت السيدة هانسون، 40 عاماً، تفكيرها قائلة: “أنا مجرد معلمة لغة إنجليزية”. لقد أذهلتها مزاعم الاحتيال والخداع. “ما الخطأ الذي أفعله؟” تساءلت. جاء في الإشعار أن بإمكانها الاستئناف، لذا نقرت على الزر لبدء العملية. وبعد أسبوع، تلقت إشعارًا آخر: تم رفض استئنافها. وجاء رد ميتا: “سيتم حذف جميع معلوماتك نهائيًا”. “لا يمكنك طلب مراجعة أخرى لهذا القرار”. قال كالفن، زوج السيدة هانسون، البالغ من العمر 42 عامًا، في مقابلة من منزلهم في البرتغال: “كان الأمر أشبه بوجود عمل فعلي، وقام شخص ما بإغلاق مكتبك أو واجهة متجرك”. ما حدث لعائلة هانسون كان حالة من الخطأ في الذكاء الاصطناعي. أصبحت التكنولوجيا مسؤولة بشكل متزايد عن تحديد الحسابات التي انتهكت قواعد محتوى Meta مع إدارة الطعون الخاصة بهذه القرارات أيضًا. ومما يزيد من معاناة الناس أنه غالبًا ما يكون من الصعب على المستخدمين مثل عائلة هانسون الوصول إلى أي شخص في الشركة لمعرفة ما يجب القيام به. وبعد أشهر، قامت الشركة بتسريح آلاف الموظفين، بما في ذلك أولئك الذين قاموا بتلك الوظائف. وقد نظم المستخدمون تنظيمهم عبر الإنترنت، حيث وقع أكثر من 60 ألف شخص مؤخرًا على عريضة تطلب من ميتا تقديم المزيد من المعلومات حول حظر الحسابات والسماح للبشر بمراجعة الطعون. تعرضت العديد من المجتمعات على Reddit وأماكن أخرى لوابل من الشكاوى من مستخدمي Meta حول AID الخاص بالشركة، شكك دانيال روبرتس، المتحدث باسم Meta، في أن الذكاء الاصطناعي كان أسوأ في التعامل مع الحسابات من البشر، وقال إن أدوات إدارة الذكاء الاصطناعي الجديدة للشركة ترتكب أخطاء أقل بنسبة 13 بالمائة من الموظفين البشر وتجد انتهاكات أكثر بنسبة 10 بالمائة. من بين الحسابات الخمسة التي أبلغت صحيفة نيويورك تايمز شركة Meta عنها، تم حظرها جميعًا بواسطة أدوات إدارة الذكاء الاصطناعي القديمة للشركة، كما قال السيد روبرتس. وقال: “نحن ملتزمون بارتكاب عدد أقل من أخطاء التنفيذ ومساعدة الأفراد على حماية حساباتهم – والذكاء الاصطناعي يقوم بالأمرين معًا”. وقد واجهت شركة Meta عدة حالات من انحراف الذكاء الاصطناعي. وفي شهر مايو، استغل المتسللون برنامج الدردشة الآلي لخدمة العملاء المزود بالذكاء الاصطناعي لمهاجمة 34 ألف حساب على موقع إنستغرام، بما في ذلك حساب سابق في البيت الأبيض لباراك أوباما. وفي الشهر نفسه، ثار الموظفون بسبب برنامج يتتبع حركات لوحة المفاتيح الخاصة بهم لتدريب الذكاء الاصطناعي، مما دفع شركة ميتا إلى إيقاف الجهود مؤقتًا. وفي الأسبوع الماضي، قال 26 موظفًا سابقًا في شركة ميتا في دعوى قضائية إن الشركة قامت بتسريحهم باستخدام خوارزمية الذكاء الاصطناعي التي استهدفتهم بسبب إصابتهم بإعاقات. قال متحدث باسم ميتا إن “إدارة القوى العاملة والقرارات التنظيمية كانت ولا تزال من صنع الأشخاص، وليس الذكاء الاصطناعي”. أنشأت مجموعة People Over Platforms، وهي مجموعة مناصرة للمستخدمين تبيع خدمات استرداد الحسابات، عريضة عبر الإنترنت هذا العام لإجبار Meta على تغيير سياسات الإشراف على الحساب. اتهمت ميتا العديد من الموقعين بمشاركة مواد استغلال الأطفال – وهي تهمة قال المستخدمون إنها تزيد الطين بلة – ثم حظرتهم. كان هذا هو الاتهام الذي وجهته ميتا ضد أثينا رودني، مالكة JuneteenthNY، وهي مجموعة تحيي ذكرى نهاية العبودية في الولايات المتحدة، عندما حظرت الشركة جميع حساباتها الشخصية والمهنية على Facebook وInstagram العام الماضي. وجاء في الإشعار الوارد من Meta: “لقد وجدت تقنيتنا أن حسابك، أو نشاطك عليه، لا يتبع قواعدنا”. “ونتيجة لذلك، اتخذت تقنيتنا إجراءات.” قالت رودني إنها لم تفهم الأساس المنطقي لميتا لأن محتوى مجموعتها “مناسب للعائلة”. بعد حظر حساباتها، قامت بفحص صور JuneteenthNY التي تم نشرها في مكان آخر على فيسبوك لمعرفة ما إذا كان من الممكن أن تكون قد أثارت روبوتات الذكاء الاصطناعي، لكنها لم تجد شيئًا. ثم تذكرت السيدة رودني أنه قبل وقت قصير من إلغاء ميتا لحساباتها، نبهتها الشركة بشأن عمليات تسجيل دخول مشبوهة من سياتل وسنغافورة – على الرغم من أنها تعيش في أتلانتا. لقد كانت علامة على أن حساباتها قد تم اختراقها. تم حظر ستة من حساباتها على Instagram و Facebook لمختلف الشركات والملفات الشخصية. لاستعادة هذه الحسابات، قالت السيدة رودني إنها قدمت وثائق هوية، وقدمت شكاوى إلى مكتب Better Business Bureau ولجنة التجارة الفيدرالية، وتواصلت مع مكاتب حماية المستهلك بالولاية وأرسلت رسائل إلى موظفي Meta على LinkedIn. لم ينجح أي شيء. منذ ذلك الحين، اضطرت JuneteenthNY إلى إقناع الرعاة بأنها منظمة شرعية موجودة منذ ما يقرب من عقدين من الزمن. قالت السيدة رودني: “يذهب الرعاة لدينا إلى صفحتنا على وسائل التواصل الاجتماعي للتأكيد على أننا منظمة صالحة، وأننا نقوم بذلك منذ 17 عامًا”. “والآن، عندما يذهبون إلى حسابنا ويرون 500 شخص، يقولون: “أنتم لم تفعلوا هذا – أنتم جميعًا محتالون”. وبعد أن أبلغت صحيفة “ميتا” عن الحسابات الخمسة المحظورة، قالت الشركة إنها حققت في الأمر ووجدت أن اثنين منها كانا نتيجة عمليات اختراق وواحد كان لسبب مشروع. وقال ميتا إن الحسابات المخترقة تم حظرها بشكل صحيح لأن المتسللين انتهكوا سياسات سلامة الأطفال. ثم استعادت ميتا الحسابين المخترقين، بما في ذلك حساب السيدة رودني JuneteenthNY. وقالت الشركة إن اثنين من الحسابات الخمسة التي تم الإبلاغ عنها تم حظرهما عن طريق الخطأ، بما في ذلك حسابات عائلة هانسون. كان روبرتو سواريز، أحد المؤثرين على إنستغرام الذي بنى متابعين لأكثر من 500 ألف مستخدم قبل حظره هذا العام، أحد أولئك الذين تلقوا بريدًا إلكترونيًا من ميتا يفيد باستعادة حسابه – إلى جانب صوره ومتابعيه ورسائله والمزيد. بدأ في نشر المحتوى مرة أخرى للمعجبين الذين لم يسمعوا منه منذ أشهر. وبعد بضعة أسابيع، أرسل له ميتا بريدًا إلكترونيًا آخر. وجاء في الرسالة: “لقد تم تعليق حسابك”، مدعيًا أنه انتهك قوانين حقوق الطبع والنشر على المحتوى الخاص به. “إذا لم تتخذ إجراءً، فسيتم تعطيل حسابك نهائيًا.” ونفى سواريز انتهاك أي حقوق الطبع والنشر. وبعد وقت قصير من سؤال صحيفة التايمز عن الحظر الجديد، تمت استعادة حسابه مرة أخرى. تلقت هانسون أيضًا بريدًا إلكترونيًا من ميتا يفيد باستعادة حسابها. وجاء في الرسالة: “لقد قمنا بمراجعة حسابك ووجدنا أن النشاط الموجود عليه يتبع معايير مجتمعنا بشأن الاحتيال والخداع، لذا يمكنك استخدام Instagram مرة أخرى”. “نحن آسفون لأننا أخطأنا في هذا الأمر.”
تم النشر: 2026-07-22 04:10:00
مصدر: www.nytimes.com
