الفن “العنصري” لمنظمة العفو الدولية يحذر من بيانات التدريب السيئة

تم انتقاد مشروع فن الذكاء الاصطناعي لاستخدامه العلامات العنصرية والجنسية لتصنيف مستخدميه.

عندما يشاركون صورة شخصية مع ImageNet Roulette ، يطابقها تطبيق الويب مع تلك التي يشبهها إلى حد كبير من مكتبة هائلة من صور الملف الشخصي.

ثم يكشف عن العلامة الأكثر شيوعًا ، والتي تم تخصيصها للصور المطابقة من قبل العاملين البشر باستخدام مجموعة بيانات WordNet.

وتشمل هذه الافتراءات العنصرية ، “الجاني الأول” ، “المشتبه في الاغتصاب” ، “قاتل المرح” ، “قارئ الأخبار” ، و “باتمان”.

تم تعيين المسؤولين عن تخصيص العلامات لصور المكتبة من خلال خدمة تقدمها Amazon ، والتي تسمى Mechanical Turk ، والتي تدفع للعاملين في جميع أنحاء العالم أجرًا ضئيلًا لأداء مهام صغيرة رتيبة.

وقال مبتكرو ImageNet Roulette والفنان تريفور باغلن وكيت كراوفورد ، المؤسس المشارك لمعهد AI بجامعة نيويورك: “نادراً ما يتم تصنيف تصنيفات الذكاء الاصطناعي للأشخاص الذين يتم تصنيفهم”.

“توفر ImageNet Roulette لمحة عن تلك العملية – ولتوضيح الطرق التي يمكن أن تسوء بها الأمور.”

أضافت السيدة كروفورد أنها تأمل في أن يمنحنا المشروع “على الأقل لحظة للبدء في إلقاء نظرة على هذه الأنظمة ، وفهم كيفية رؤيتنا وتصنيفنا بطريقة أكثر عدالة”.

قام المستخدمون بتحميل صور لحيواناتهم الأليفة.

تم تصنيف الآخرين في المهن.

وكان شخص واحد الموسومة “البطلة”.