أعلنت شركة كوبرتينو اليوم عن التنفيذ المرتقب لإجراءات جديدة لحماية الأطفال من خطر التحرش. حيث ستتمكن كل أنظمة التشغيل الجديدة من أبل من اكتشاف المحتويات الغير اللائقة للأطفال وستقوم بحظرها تلقائيًا.
أعلنت شركة أبل أنها ستطرح قريبًا أدوات جديدة للمساعدة في حماية الأطفال من التحرش. سيتم تضمين هذه الميزات الجديدة في آي أو إس 15 و آيباد أو إس 15 و ووتش أو إس 8 و ماك أو إس مونتيري. سيتم إتاحة هذه الميزة أولا في الولايات المتحدة.
من بين هذه الأدوات الجديدة، تخطط أبل لدمج وظيفة في تطبيق الرسائل قادرة على اكتشاف المحتوى الجنسي. عندما يتلقى الطفل محتوى غير لائق، يقوم تطبيق الرسائل تلقائيًا بتعتيم الصورة وعرض تحذير. و إذا قرر الطفل عرض صورة محظورة بواسطة الرسائل، أو حاول إرسال صورة من هذا النوع، فسيتم إشعار الوالدين على الفور. للكشف عن هذه الصور، قامت أبل بدمج نظام تحليل التعلم الآلي، والذي يعمل محليًا في تطبيق المراسلة.
الكشف التلقائي عن الصور الغير اللائقة للأطفال
للمضي قدمًا، خططت كوبرتينو لإنشاء أداة أخرى، تهدف هذه المرة إلى مكافحة انتشار المواد الإباحية المتعلقة بالأطفال على الإنترنت. سيسمح كل من آي أو إس 15 و آيباد أو إس 15 لشركة أبل باكتشاف هذا المحتوى بمجرد تخزينه في السحابة، مما سيسمح للشركة بإبلاغ الحقائق إلى السلطات المختصة.
لضمان عدم انتهاك خصوصية مستخدميها، لن يقوم النظام الذي ستضعه شركة أبل بمسح الصور مباشرة في أي كلود، ولكنه سيجري تحليلًا محليًا على الجهاز. بشكل ملموس، لن يقوم نظام التشغيل بتحليل الصور، بل سيقوم فقط بمسح “التجزئة”، أي البصمات الرقمية للصور المحفوظة على الجهاز. حيث ستتم مقارنة بصمات الأصابع هذه مع تلك الصور، والتي أشارت إليها السلطات ومنظمات حماية الطفل في قاعدة بيانات مخصصة. لا توجد صورة قابلة للقراءة من قبل أبل مما يفسر “تحويل قاعدة البيانات هذه إلى مجموعة من التجزئات غير القابلة للقراءة المخزنة محليًا على جهاز المستخدم”.
عند اكتشاف تطابق، سيقوم الجهاز بإنشاء بطاقة تشفير تقوم بترميز نتيجة المطابقة وتشفير البيانات الأخرى المتعلقة بالصورة قبل تحميلها على السحابة. ثم ستتكلف الشركة بتحليل التقارير يدويًا للتأكد من وجود تطابق. إذا كان الأمر كذلك، تقوم أبل بإلغاء تنشيط حساب المستخدم وإرسال تقرير إلى السلطات.
لذلك، تخطط أبل لاستخدام أداة سيري لنشر نصائح لمساعدة الآباء والأطفال الذين قد يضطرون إلى التعامل مع محتوى غير لائق. على سبيل المثال، سيكونون قادرين على طلب المساعدة الصوتية من أبل للمساعدة في الكشف عن الاعتداء الجنسي على الأطفال أو الإبلاغ عن المحتويات الغير اللائقة للأطفال، وسيتمكنون من الوصول إلى جميع الموارد اللازمة للإجابة على استفساراتهم. ستعرض سيري أيضًا تحذيرات عندما يرسل المستخدم طلبًا غير مناسب يتعلق بمحتوى جنسي صريح يظهر فيه الأطفال.
