طريقة جديدة لمحاربة الصور المزيفة على فيسبوك وإنستغرام

يتم تداول المعلومات الكاذبة بسرعة على الشبكات الاجتماعية، وخاصة تلك الموجودة على ميتا. ولذلك وجدت الشركة طريقة جديدة للمستخدمين لمعرفة ما إذا كانت بعض الصور مزيفة أم لا.

---

أعلنت شركة ميتا، الشركة الأم لفيسبوك وإنستغرام، أنها ستبدأ في وضع علامات على الصور التي تم إنشاؤها أو معالجتها بواسطة الذكاء الاصطناعي (AI) على منصاتها. ويعد هذا الإجراء جزءًا من جهود ميتا لتعزيز الشفافية عبر الإنترنت ومنع انتشار المعلومات المضللة، خاصة في الفترة التي تسبق انتخابات 2024 في الولايات المتحدة.

تستخدم ميتا بالفعل علامة مائية مرئية لتمييز الصور التي تم إنشاؤها بواسطة محرك Imagine AI، والذي يمكنه إنشاء صور واقعية للأشخاص والأماكن والأشياء. حيث تخطط الشركة الآن لتوسيع هذه الممارسة لتشمل الصور من مصادر خارجية، مثل OpenAI وGoogle وMidjourney. ستشير التسميات إلى أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي وتوفر المزيد من المعلومات حول المصدر والعملية. لا يزال التصميم الدقيق للملصقات قيد اللمسات النهائية، لكن ميتا شاركت نموذجًا لما قد تبدو عليه الميزة، مع الكلمات “AI Info” بجوار الصور.

تريد ميتا وضع علامة على الصور المزيفة على شبكاتها الاجتماعية

بالإضافة إلى التسميات المرئية، تقوم ميتا أيضًا بتطوير أدوات للكشف عن العلامات غير المرئية في الصور من المولدات الخارجية. يتم تضمين هذه العلامات في البيانات التعريفية للصورة وتكون بمثابة معرفات فريدة لا يمكن تغييرها عن طريق برنامج التحرير. حيث قالت ميتا إن منصات أخرى تخطط أيضًا لاستخدام مثل هذه العلامات وأنها تريد إنشاء نظام للتعرف عليها.

ولكن ماذا عن الصوت والفيديو الناتج عن الذكاء الاصطناعي؟ اعترفت ميتا بأنها لا تمتلك حاليًا التكنولوجيا اللازمة لتحديد هذا النوع من المحتوى على نفس مستوى الصور. ومع ذلك، أشار إلى أن الصناعة تعمل على بناء هذه القدرة وأنه سيقوم بتحديث سياساته وفقًا لذلك.

في غضون ذلك، ستطلب ميتا من المستخدمين الإشارة إلى ما إذا كان محتوى الصوت أو الفيديو الذي يقومون بتحميله قد تم إنتاجه أو تحريره بواسطة الذكاء الاصطناعي. وإذا لم يفعلوا ذلك، فسيتم معاقبتهم. بالإضافة إلى ذلك، إذا كان المحتوى واقعيًا لدرجة أنه قد يضلل الجمهور، فسوف تضع ميتا علامة أكثر بروزًا مع تفاصيل إضافية.

تستعد “ميتا” للقضاء على المحتويات المزيفة

تعمل ميتا أيضًا على تحسين أدوات الذكاء الاصطناعي الخاصة بها، مثل محرك Imagine AI ونماذج اللغة الكبيرة (LLM). يعمل مختبر أبحاث FAIR AI التابع للشركة على تقنية جديدة للعلامة المائية تسمى Stable Signature، والتي ستجعل العلامات أكثر مقاومة للحذف. تقوم ميتا أيضًا بتدريب LLMs على معايير مجتمعها، حتى يتمكنوا من الإبلاغ عن المحتوى الذي ينتهك سياساتها.

قال رئيس الشركة للشؤون الدولية، نيك كليج: “مع تزايد عدم وضوح الخط الفاصل بين المحتوى البشري والمحتوى الاصطناعي، يرغب الناس في معرفة أين يقع هذا الخط. غالبًا ما يكتشف الأشخاص محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي للمرة الأولى، وقد أخبرنا مستخدمونا أنهم يقدرون الشفافية التي تحيط بهذه التكنولوجيا الجديدة. لذا من المهم أن نساعد الأشخاص على معرفة ما إذا كان المحتوى الواقعي الذي يرونه قد تم إنشاؤه باستخدام الذكاء الاصطناعي.”

وقالت ميتا إنها ستطرح ملصقات للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي في الأشهر المقبلة بينما تستعد لانتخابات عام 2024 في العديد من البلدان، بما في ذلك الولايات المتحدة. وتأمل الشركة أن تساعد هذه التصنيفات المستخدمين على اتخاذ قرارات مستنيرة ومنع انتشار المعلومات الخاطئة على منصاتها.