رد فيسبوك على تقرير يفيد بأن برنامج الذكاء الاصطناعي الخاص به كان له تأثير ضئيل في تقليل وإزالة المحتوى العنيف على الشبكة الاجتماعية. وفقًا للشركة، يساعد الذكاء الاصطناعي الخاص بها في الحد من انتشار خطاب الكراهية.
نفى جاي روزن ، نائب رئيس فيسبوك المكلف بالنزاهة و السلامة، المزاعم القائلة بأن تكنولوجيا الذكاء الاصطناعي المستخدمة لمعالجة خطاب الكراهية ليس لها تأثير يذكر. في الواقع، وفقًا لصحيفة وول ستريت جورنال، فإن موظفي فيسبوك المسؤولين عن منع ظهور المحتوى المسيء على المنصة لا يعتقدون أن الشركة قادرة على اكتشافه بشكل موثوق. كما زعم أحد المبلغين عن المخالفات قبل بضعة أسابيع أن الشبكة الاجتماعية تشجع الكراهية عبر الإنترنت من أجل الربح.
ومع ذلك، وفقًا لـ روزن، فقد انخفض انتشار خطاب الكراهية على المنصة بنسبة تقارب 50٪ في الأرباع الثلاثة الماضية. و أضاف أيضًا بأنه من “الخطأ” الحكم على نجاح فيسبوك في مكافحة خطاب الكراهية استنادًا إلى إزالة المحتوى فقط، حيث أن الانخفاض في ظهور هذا المحتوى يعد مقياسًا آخر مهمًا.
وفقًا للأرقام التي شاركها فيسبوك، انخفض انتشار المحتوى السلبي على المنصة بنسبة تقارب 50٪ خلال الأرباع الثلاثة الماضية، إلى حوالي 0.05٪ من المحتوى الذي تم عرضه، و حوالي 5 من كل 10000 مشاركة. ومع ذلك، نظرًا لأن الموقع لديه مليارات المستخدمين من يمكنه مشاركة هذه التعليقات المسيئة، فهذا يعني أن العديد من الأشخاص يشاهدون هذه المنشورات. لذلك يجب عليه أن يكافح بقوة أكبر ضد الكراهية على الإنترنت للحد من ظهورها على حد قول الشركة.
يدرك فيسبوك جيدًا الآثار الضارة لتطبيقاته على السلامة النفسية للمراهقين، لكنه نفى رسميًا أنها خطيرة. ومع ذلك، رداً على الجدل، أعلن تطبيق إنستجرام عن وصول ميزة جديدة تسمح للمراهقين بأخذ قسط من الراحة للحفاظ على سلامتهم العقلية.
