لعدة سنوات، انتشر استخدام الذكاء الاصطناعي في العديد من المجالات، كتحليل جودة البيتزا … ما يثير الخوف بين البعض، و الشعور بالقلق بشأن المستقبل.
في الواقع، في حالته الحالية، الذكاء الاصطناعي مازال غبي جدًا عند تغيير المجال المحدد الذي صُمم من أجله. الأسوأ من ذلك، أنه في بعض الأحيان حتى في مجاله المحدد مازالت هناك نتائج غير حاسمة. ملاحظة يتضح من تطبيق الذي يستعمل الذكاء الاصطناعى وقاعدة بيانات ويحاول تصنيف الناس حسب صورة شخصية. أقل ما يمكن قوله هو أنها مبدعة لكن ليست كاملة !
نتائج غير حاسمة ولكنها تثير أسئلة أخرى :
تم تطوير ImageNet Roulette بواسطة Leif Ryge، كجزء من مشروع Art Human Training، الذي صممه الفنان والباحث تريفور باغلن والباحثة كيت كراوفورد. انهم يريدون إنشاء قائمة جرد لل IA في شكله الحالي. كما يمكنك أن تتخيل، تركز ImageNet Roulette على التعرف على الصور.
تسلط كيت كراوفورد الضوء على استعدادها لاختبار استخدام نظام التعرف على الوجه في بيئة يومية، بعيدًا عن أي اعتبارات. يتعرف ImageNet Roulette على أنواع مختلفة من الكائنات، بما في ذلك الوجوه البشرية، ويصنفها وفقًا لمعايير مختلفة.
لإجراء هذا النوع من البحث، يستخدم ImageNet Roulette نظام تصنيف يستند إلى فئات. يعتمد التطبيق على 2833 فئة فرعية. إنه يصنف الأشخاص حسب العرق، الجنسية، الوظيفة، الوضع الاقتصادي، السلوك أو الشخصية أو ما إلى ذلك.
بطبيعة الحال، بصرف النظر عن مدى أهمية النتائج التي تم الحصول عليها، يهدف المشروع إلى التساؤل عن كيفية تصور IA للأفراد وتصنيفهم. قضية يلخصها البحث “” : “تدريب البشر يستكشف سؤالين أساسيين على وجه الخصوص: كيف يتم تمثيل البشر وتفسيرهم وتصنيفهم لمجموعات، وكيفية إستغلال أنظمة التكنولوجيا واستخدامها. عندما تصبح التصنيفات البشرية حسب أنظمة الذكاء الاصطناعي أكثر غزوًا وتعقيدًا، تصبح تحيزاتهم وسياساتهم واضحة. في أنظمة رؤية الكمبيوتر وأنظمة الذكاء الاصطناعي، تتحول أشكال القياس بسهولة – ولكن خلسة – إلى أحكام أخلاقية“.
