تستخدم الشبكة الاجتماعية فيسبوك أجهزة الشرطة في الولايات المتحدة والمملكة المتحدة لتدريب أدوات الذكاء الاصطناعي (AI) لمحاولة إيقاف البث المباشر للهجمات المتطرفة.
يوم الثلاثاء (17 سبتمبر) عبر بيان رسمي، هي جزء من الإطار الأوسع لجهود الشبكة الاجتماعية لتنظيف محتوى “الكراهية والتطرف” وخاصة جهودها لإضافة الحركات أو الأفراد المتطرفة إلى قائمتها السوداء.
بدءًا من شهر أكتوبر، ستساعد شرطة لندن Facebook على تدريب نظامها الذكي بشكل أفضل لاكتشاف هذا المحتوى بسرعة وحذفه. تكمن الصعوبة في حقيقة أن الآلة يجب أن تكون قادرة على معرفة الفرق بين الهجوم في الحياة الحقيقية والمشهد الخيالي.
لتدريب الذكاء الاصطناعى، بفضل قوات النظام في الولايات المتحدة فإن الصور التي تم تصويرها بواسطة الكاميرات التي تحملها وحدات الشرطة في ميت (دائرة شرطة العاصمة) أثناء تدريبهم ستغذي بنك الصور ويثريه بالفعل. سيتعلم النظام التعرف عليها وفرزها ومحوها في النهاية.
يسير هذا الإجراء جنبًا إلى جنب مع سلسلة من المبادرات التي أطلقها موقع Facebook مؤخرًا حول القيود المفروضة على الوصول إلى Facebook Live، والاجتماعات مع السياسيين، والتحالف مع الشبكات الأخرى لكبح “إستغلال التقنيات لنشر المحتوى الإرهابي. “
بعد أن وضعت الكثير من الموارد لمكافحة استخدام شبكتها من قبل منظمات مثل تنظيم القاعدة أو تنظيم الدولة الإسلامية، تركز فيسبوك بشكل خاص على ظاهرة تفوق البيض، الذي وراءهم مؤيدون لسنوات عديدة. سبب عمليات لقتل جماعية في السنوات الأخيرة في الولايات المتحدة ونيوزيلندا. تتذكر فيسبوك أنها حظرت 200 منظمة بيضاء متطرفة.
وعلى نفس المنوال، وسعت الشركة المبادرة التي أطلقتها في مارس في الولايات المتحدة إلى أستراليا وإندونيسيا أيضاً، لإحالة المستخدمين الذين يقومون بعملية بحث تحتوي على كلمات رئيسية مرتبطة بالتفوق الأبيض إلى أحد المواقع. “كبح التطرف”. لقياس فعالية هذه المبادرات، أجرى فيسبوك بشراكة مع Moonshot CVE (مكافحة التطرف العنيف)، وهي شركة بريطانية شابة تستخدم البيانات المبحوث عنها لاستهداف المستخدمين ذوي الآراء المتطرفة. قام Moonshot CVE بتطوير طريقة لإعادة توجيه هؤلاء المتطرفين إلى مواقع ذات معلومات محايدة، أو استخدام شخصيات معترف بها أو أشخاص تركوا مجموعات متطرفة لمحاولة تغيير رأيهم.
كل هذه التدابير تستجيب للنقد الذي واجهه فيسبوك بقوة لتخلفه لمدة 17 دقيقة كاملة قبل وقف الإرسال من قبل أحد المتطرفين البيض، والذي قتل 51 من المصلين المسلمين في 15 مارس في كرايستشيرش، نيوزيلندا.
