منحاز وخطأ: تقنية التعرف على الوجه في قفص الاتهام
[ad_1]
حقوق الطبع والنشر صورة
صور غيتي
تقنية التعرف على الوجوه أقل دقة وأغمق لون بشرتك
تقوم قوات الشرطة والأمن في جميع أنحاء العالم باختبار أنظمة التعرف على الوجه الآلية كوسيلة لتحديد المجرمين والإرهابيين. لكن ما مدى دقة التقنية وكيف يمكن بسهولة والذكاء الاصطناعي (AI) الذي تعمل به – أن تصبح أدوات للقمع؟
تخيل إرهابي مشتبه به ينطلق في مهمة انتحارية في وسط مدينة مكتظة بالسكان. إذا فجر القنبلة ، فقد يموت المئات أو يصابون بجروح خطيرة.
يقوم مسح الدوائر التلفزيونية المغلقة بأوجه الوجوه بين الحشد بجمعه ومقارنة ميزاته تلقائيًا بالصور الموجودة في قاعدة بيانات للإرهابيين المعروفين أو “الأشخاص المهتمين” بخدمات الأمن.
يثير النظام ناقوس الخطر ويتم إرسال قوات مكافحة الإرهاب للنشر السريع إلى مكان الحادث حيث “تحيد” المشتبه به قبل أن يتمكن من إطلاق المتفجرات. يتم إنقاذ مئات الأرواح. التكنولوجيا يحفظ اليوم.
ولكن ماذا لو كانت تقنية التعرف على الوجه (FR) خاطئة؟ لم يكن إرهابيا ، بل شخص سيئ الحظ بما يكفي لتبدو متشابهة. كانت الحياة البريئة قد أخفيت لأننا وضعنا الكثير من الإيمان في نظام غير قابل للخطأ.
ماذا لو كان هذا الشخص البريء أنت؟
هذه مجرد واحدة من المعضلات الأخلاقية التي يمثلها الأب والذكاء الاصطناعي الذي يقوم عليه.
آلات التدريب على “الرؤية” – للاعتراف والتمييز بين الأشياء والوجوه – صعبة للغاية. رؤية الكمبيوتر ، كما يطلق عليها في بعض الأحيان – منذ وقت ليس ببعيد كانت تكافح لمعرفة الفرق بين الكعك وتشيهواهوا – اختبار محك لهذه التكنولوجيا.
حقوق الطبع والنشر صورة
teenybiscuit
الكعك أو تشيهواهوا؟ من السهل بالنسبة لنا للرد. ليس بهذه السهولة لجهاز الكمبيوتر
أظهر Timnit Gebru ، عالم الكمبيوتر والمدير الفني المشارك لفريق Google Ethical Artificial Intelligence Team ، أن التعرف على الوجه يواجه صعوبة أكبر في التمييز بين الرجال والنساء وأغمق لون بشرتهم. المرأة ذات البشرة الداكنة من المرجح أن تكون مخطئة لرجل.
وقالت أمام منظمة العفو الدولية من أجل القمة الجيدة في جنيف في أيار / مايو: “هناك حوالي 130 مليون أمريكي بالغ في قاعدة بيانات التعرف على الوجوه”. “لكن مجموعات البيانات الأصلية هي في معظمها من البيض والذكور ، ومنحازة للغاية ضد أنواع البشرة الداكنة – هناك معدلات خطأ كبيرة حسب نوع البشرة والجنس.”
حظرت مدينة سان فرانسيسكو في كاليفورنيا مؤخراً استخدام الأب عن طريق وكالات إنفاذ القانون والنقل في اعتراف عيوبها والتهديدات للحريات المدنية. لكن مدن أخرى في الولايات المتحدة ، ودول أخرى حول العالم ، تختبر التكنولوجيا.
في المملكة المتحدة ، على سبيل المثال ، قوات الشرطة في جنوب ويلز ، لندن. مانشستر وليستر تم اختبار التكنولوجيا إلى ذعر منظمات الحريات المدنية مثل Liberty و Big Brother Watch ، وكلتاهما تشعران بالقلق إزاء عدد المطابقات الخاطئة التي تصنع الأنظمة.
وهذا يعني أن الأبرياء يتم تعريفهم خطأً على أنهم مجرمون محتملون.
وقالت السيدة جبرو: “التحيز شيء يجب أن يشعر الجميع بالقلق”. “الشرطة التنبؤية هي سيناريوهات عالية المخاطر”.
مع كون الأمريكيين السود يشكلون 37.5٪ من نزلاء السجون الأمريكية (المصدر: المكتب الفيدرالي للسجون) على الرغم من أنهم يشكلون فقط 13٪ من سكان الولايات المتحدة – فإن الخوارزميات المكتوبة بشكل سيء التي تغذيها مجموعات البيانات هذه قد تتنبأ بأن السود ارتكاب جريمة.
لا يتطلب الأمر عبقرية تحديد الآثار التي قد تترتب على ذلك بالنسبة للسياسات الاجتماعية والسياسية.
تشغيل الوسائط غير مدعوم على جهازك
هذا الأسبوع فقط ، استنتج الأكاديميون في جامعة إسيكس أن المباريات في محاكمات شرطة العاصمة لندن كانت خاطئة بنسبة 80 ٪ من الوقت ، يحتمل أن يؤدي إلى حالات إجهاض خطيرة للعدوان وانتهاك حق المواطنين في الخصوصية.
أطلق رجل بريطاني يدعى Ed Bridges تحدًا قانونيًا لاستخدام شرطة جنوب ويلز للتكنولوجيا بعد التقاط صورته أثناء التسوق ، وقد أعربت إليزابيث دينهام ، مفوضة الإعلام في المملكة المتحدة ، عن قلقها إزاء عدم وجود إطار قانوني يحكم استخدام الاب.
ولكن مثل هذه المخاوف لم توقف عملاق التكنولوجيا الأمازون عن بيع أداة Rekognition FR لقوات الشرطة في الولايات المتحدة ، على الرغم من تمرد المساهمين نصف القلب الذي جاء إلى شيء.
تقول أمازون إنها لا تتحمل أية مسؤولية عن كيفية استخدام العملاء لتكنولوجيتها. لكن قارن هذا الموقف بموقف Salesforce ، شركة تكنولوجيا إدارة علاقات العملاء ، التي طورت أداة التعرف على الصور الخاصة بها والتي تسمى أينشتاين فيجن.
تشغيل الوسائط غير مدعوم على جهازك
وقالت كاثي باكستر ، مهندسة الممارسات الأخلاقية لمنظمة العفو الدولية لدى Salesforce ، “قد تكون تقنية التعرف على الوجه مناسبة في السجن لتتبع السجناء أو لمنع عنف العصابات”. “لكن عندما أرادت الشرطة استخدامه مع كاميرات أجسادهم عند اعتقال الناس ، اعتبرنا ذلك غير مناسب.
“يجب أن نتساءل عما إذا كان ينبغي لنا استخدام الذكاء الاصطناعي على الإطلاق في سيناريوهات معينة ، والتعرّف على الوجه هو مثال واحد.”
والآن يتم استخدام FR من قبل الجيش أيضًا ، حيث يزعم بائعو التكنولوجيا أن برامجهم لا يمكنها فقط تحديد الأعداء المحتملين ولكن أيضًا تمييز السلوك المشبوه.
لكن إيف داكورد ، المدير العام للجنة الدولية للصليب الأحمر ، يشعر بقلق بالغ إزاء هذه التطورات.
“الحرب عالية التقنية هذه الأيام – لدينا طائرات بدون طيار مستقلة ، وأسلحة مستقلة ، وتتخذ القرارات بين المقاتلين وغير المقاتلين. هل ستكون قراراتهم صحيحة؟ يمكن أن يكون لها تأثير دمار شامل” ، يحذر.
لذلك يبدو أن هناك إجماعًا عالميًا متزايدًا على أن الذكاء الاصطناعي بعيد عن الكمال ويحتاج إلى تنظيم.
“ليس من الجيد مجرد ترك الذكاء الاصطناعى للقطاع الخاص ، لأن الذكاء الاصطناعى يمكن أن يكون له تأثير كبير” ، يختتم الدكتور تشيسوب لي ، مدير مكتب تقييس الاتصالات في الاتحاد الدولي للاتصالات.
“يعد استخدام البيانات الجيدة أمرًا ضروريًا ، ولكن من الذي يضمن أنها بيانات جيدة؟ من الذي يضمن عدم تحيز الخوارزميات؟ نحن بحاجة إلى نهج متعدد أصحاب المصلحة ومتعدد التخصصات.”
حتى ذلك الحين ، تظل تقنية FR قيد الشك وتحت الفحص.
[ad_2]
Source link
