چگونه فن آوری تشخیص چهره ناقص و مغرضانه است

چگونه فن آوری تشخیص چهره ناقص و مغرضانه است
الگوریتم های تشخیص چهره معمولاً با استفاده از چهره های سفید آزمایش می شوند ، که منجر به عدم امکان تشخیص این فن آوری در بین افراد نژادپرست می شود. (Shutterstock)

پلیس دیترویت به غلط رابرت جولیان-بورچاک ویلیامز را در ژانویه سال 2020 دستگیر کرد برای یک حادثه خرید و فروش که دو سال قبل اتفاق افتاده بود. اگرچه ویلیامز هیچ ارتباطی با این ماجرا نداشت ، فناوری تشخیص چهره که توسط پلیس ایالتی میشیگان استفاده شده است چهره وی را با تصویر غلیظی بدست آمده از یک ویدیوی نظارت در فروشگاه نشان داد که مردی دیگر از آفریقایی آمریکایی را که ساعتهای 3,800 دلاری در دست گرفته است ، مطابقت داد.

دو هفته بعد ، پرونده به درخواست دادستان عزل شد. با این حال ، با تکیه بر مسابقه معیوب ، پلیس قبلاً ویلیامز را در مقابل خانواده وی دستگیر کرده و وی را دستگیر کرده بود ، وی را مجبور کرده بود یک شات لیوان ، اثر انگشت و نمونه ای از DNA وی تهیه کند ، وی را مورد بازجویی قرار داد و یک شبه زندانی کرد.

کارشناسان معتقدند ویلیامز تنها نیست و دیگران نیز در معرض بی عدالتی های مشابه قرار گرفته اند. بحث و گفتگوهای مداوم در مورد استفاده پلیس از Clearview AI قطعاً خطرات حریم خصوصی ناشی از فناوری تشخیص چهره را تأکید می کند. اما تحقق این مهم است همه ما به طور مساوی آن خطرات را تحمل نمی کنیم.

آموزش الگوریتم های نژادپرستانه

فناوری تشخیص چهره که هست آموزش دیده و تنظیم چهره های قفقازی بطور منظم افراد نژادپرستانه را به طور غیرمستقیم و گمراه کننده می شناسد: مطالعات بیشماری نشان می دهد که فناوری تشخیص چهره "نقص و مغرضانه ، با خطای قابل توجهی بالاتر هنگام استفاده در برابر افراد رنگ"

این فردیت و انسانیت افراد نژادپرست را تضعیف می کند افرادی که احتمالاً به عنوان جنایتکار شناخته می شوند. این فناوری - و خطاهای شناساییی که ایجاد می کند - انعکاس بخشهای دیرپای اجتماعی است که عمیقاً با نژادپرستی ، سکسیسم ، همو هراسی ، شهرک نشین-استعمار و سایر ظلمهای درگیر درگیر شده است.


تحقیقات France24 در مورد تعصب نژادی در فن آوری تشخیص چهره.

چگونه فناوری کاربران را دسته بندی می کند

در کتاب تغییر بازی سال 1993 ، Panoptic مرتب سازی بر اساسمحقق اسکار گندی هشدار داد كه "فناوری پیچیده [كه شامل جمع آوری ، پردازش و به اشتراک گذاری اطلاعات در مورد افراد و گروههایی است كه در زندگی روزمره آنها ایجاد می شود ... برای هماهنگی و كنترل دسترسی آنها به كالاها و خدماتی كه زندگی را تعریف می كنند استفاده می شود. اقتصاد مدرن سرمایه داری " اجرای قانون از آن استفاده می کند تا افراد مظنون را از بین ببرد و سازمان های خصوصی از آن استفاده کنند تا مشخص کنند آیا ما به چیزهایی مانند این دسترسی داریم یا نه بانکداری و استخدام.


آخرین مطالب را از InnerSelf دریافت کنید


گاندی به طور نبوی هشدار داد كه در صورت عدم كنترل ، این نوع "مأموریت سایبرنتیك" اعضای جامعه جوامع برابری - به عنوان مثال ، گروه هایی كه نژادپرستانه یا از نظر اقتصادی و اجتماعی از نظر اقتصادی محروم هستند - را از بین می برد. چگونه آنها می توانند خودشان را درک کنند.

حدود 25 سال بعد ، ما اکنون با نوع پانوپتیک روی استروئیدها زندگی می کنیم. و نمونه هایی از تأثیرات منفی آن بر جوامع مبتنی بر برابری ، مانند شناسایی غلط ویلیامز ، بسیار زیاد است.

تعصب از قبل موجود

این مرتب سازی با استفاده از الگوریتم ها به اساسی ترین جنبه های زندگی روزمره نفوذ می کند و در پی آن خشونت مستقیم و ساختاری رخ می دهد.

خشونت مستقیمی که ویلیامز تجربه کرد بلافاصله در حوادث دستگیری و بازداشت وی مشهود است ، و مضرات فردی که وی تجربه کرده است آشکار است و می توان با اقدامات پلیس که تصمیم به اتکا به "مسابقه" فن آوری برای دستگیری گرفت ، ردیابی کرد. موذیانه تر است خشونت ساختاری از طریق فن آوری تشخیص چهره و سایر فن آوری های دیجیتال این نرخ ، هماهنگی ، طبقه بندی و مرتب سازی افراد به روش هایی که الگوهای تبعیض آمیز از قبل موجود را بزرگ می کنند.

آسیب های ساختاری آشکارتر و کمتر مستقیم است و از طریق انکار سیستماتیک به قدرت ، منابع و فرصت ها باعث آسیب به گروه های برابری می شود. به طور همزمان ، خطر و آسیب مستقیم اعضای هر گروه را افزایش می دهد.

استفاده های پلیس پیش بینی شده پردازش الگوریتمی داده های تاریخی برای پیش بینی زمان وقوع جرائم جدیدمنابع پلیس را بر این اساس اختصاص می دهد و نظارت پلیس را در جوامع معمولاً در محلات با درآمد پایین و نژادپرستانه نظارت می کند. این شانس را افزایش می دهد که هرگونه فعالیت مجرمانه - از جمله فعالیت های جنایی کمتری که در غیر این صورت ممکن است پاسخ پلیس نداشته باشد - کشف و مجازات می شود ، در نهایت احتمال زندگی افرادی که در آن محیط زندگی می کنند محدود می شود.

و شواهد نابرابری در بخش های دیگر همچنان در حال افزایش است. صدها دانش آموز در انگلستان در روز 16 اوت به نتایج فاجعه بار اعتراض کرد بی نظیر، یک الگوریتم ناقص دولت انگلیس برای تعیین اینکه دانش آموزان واجد شرایط بودن برای دانشگاه هستند. در سال 2019 ، سرویس تبلیغاتی ریزگرد شارژ فیس بوک به ده ها کارفرمای بخش دولتی و خصوصی کمک کرد افراد را از دریافت آگهی های شغلی بر اساس سن و جنس خودداری کنید. تحقیقات انجام شده توسط ProPublica اثبات شده است تبعیض قیمت مبتنی بر نژاد برای محصولات آنلاین. و موتورهای جستجو مرتباً نتایج نژادپرستانه و جنسی را تولید می کنند.

سركوب ظلم

این نتایج حائز اهمیت است زیرا نابرابری های موجود را بر اساس ویژگی هایی مانند نژاد ، جنسیت و سن ثابت و تقویت می کند. آنها همچنین دارای اهمیت هستند زیرا تأثیر عمیقی بر چگونگی شناخت خودمان و دنیای اطرافمان ، گاهاً توسط آنها ، می گذارد قبل از انتخاب اطلاعات ما به روشهایی دریافت می کنیم که ادراک کلیشه ای را تقویت می کنند. حتی شرکتهای فناوری نیز این موضوع را تصدیق می کنند فوریت متوقف کردن الگوریتم ها از ایجاد تبعیض.

تا به امروز موفقیت تحقیقات ad hoc که توسط خود شرکت های فناوری انجام شده است مغایرت ندارد. بعضی اوقات ، شرکت های درگیر در تولید سیستم های تبعیض آمیز ، آنها را از بازار بیرون می کشند ، مانند زمان Clearview AI اعلام کرد دیگر نمی تواند فناوری تشخیص چهره را در کانادا ارائه دهد. اما غالباً چنین تصمیماتی ناشی از نظارت نظارتی یا فقط اعتراض عمومی است بعد از اعضای جوامع برابری خواه از قبل آسیب دیده اند.

وقت آن است که ابزارهای لازم برای رفع مشکل به موسسات نظارتی خود ارائه دهیم. محافظت از حریم خصوصی ساده که به رضایت فردی بستگی دارد تا بتواند داده ها را توسط شرکت ها ضبط و بازگرداند ، نمی تواند از نتایج تبعیض آمیز آن استفاده کند. این به ویژه در عصری که بیشتر ما (از جمله خود شرکت های فناوری) به طور کامل نمی توان درک کرد که الگوریتم ها چه کاری انجام می دهند یا چرا آنها نتایج خاصی را تولید می کنند.

حریم خصوصی یک حق انسانی است

بخشی از راه حل مستلزم تجزیه سیلوهای نظارتی کنونی است که با حریم خصوصی و حقوق بشر به عنوان موضوعات جداگانه رفتار می کنند. با تکیه بر یک الگوی محافظت از داده مبتنی بر رضایت ، در مقابل این اصل اساسی قرار می گیرد که حریم خصوصی و برابری هر دو حقوق انسانی هستند که نمی توان با آنها قرارداد برقرار کرد.

حتی منشور دیجیتال کانادا - آخرین تلاش دولت فدرال برای پاسخ به کاستی های وضعیت فعلی محیط دیجیتال - این تفاوت های مفهومی را حفظ می کند. با نفرت و افراط گرایی ، کنترل و رضایت و دموکراسی شدید به عنوان مقولات جداگانه رفتار می کند.

برای پرداختن به تبعیض الگوریتمی ، ما باید حریم خصوصی و برابری را به عنوان حقوق بشر بشناسیم و آنرا قاب کنیم. و ما باید زیرساخت هایی را ایجاد کنیم که در هر دو مورد به همان اندازه مورد توجه و متخصص باشد. بدون چنین تلاشهایی ، درخشش ریاضی و علم همچنان به استتار تعصبات تبعیض آمیز AI می پردازد و می توان انتظار داشت که مسافرتهایی مانند آن که به ویلیامز تحمیل شده است ، چند برابر شود.گفتگو

درباره نویسنده

جین بیلی ، استاد حقوق و همیار رهبر پروژه eQuality ، L'Université d'Ottawa / دانشگاه اتاوا؛ ژاکلین بورکل ، معاون معاون رئیس جمهور ، تحقیقات ، دانشگاه غربی، و والری استیوز ، استاد کامل ، L'Université d'Ottawa / دانشگاه اتاوا

این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

به دنبال InnerSelf در

فیس بوک، آیکونتوییتر آیکونrss-icon

دریافت آخرین با ایمیل

{emailcloak = خاموش}

من با کمک کمی از دوستانم دریافت می کنم

بیشترین مطلب خوانده شده

از سردبیران

خبرنامه InnerSelf: اکتبر 25 ، 2020
by InnerSelf کارکنان
"شعار" یا عنوان فرعی برای وب سایت InnerSelf "نگرش های جدید --- احتمالات جدید" است ، و این دقیقاً موضوع خبرنامه این هفته است. هدف مقالات و نویسندگان ما این است که
خبرنامه InnerSelf: اکتبر 18 ، 2020
by InnerSelf کارکنان
این روزها ما در مینی حباب زندگی می کنیم ... در خانه های خودمان ، در محل کار خود ، در مکان های عمومی و احتمالاً در ذهن خودمان و با احساسات خودمان. با این حال ، زندگی در یک حباب ، یا احساس مثل ما ...
خبرنامه InnerSelf: اکتبر 11 ، 2020
by InnerSelf کارکنان
زندگی یک سفر است و مانند اکثر سفرها با فراز و نشیب هایی همراه است. و درست مثل اینکه روز همیشه شب را دنبال می کند ، تجربه های روزمره شخصی ما نیز از تاریکی به روشن و عقب و جلو می رود. با این حال،…
خبرنامه InnerSelf: اکتبر 4 ، 2020
by InnerSelf کارکنان
ما چه از نظر فردی و چه از نظر جمعی از هر چه عبور می کنیم ، باید به یاد داشته باشیم که ما قربانیان درمانده ای نیستیم. ما می توانیم از نظر معنوی قدرت خود را برای تراشیدن مسیر خود و بهبود زندگی خود بازیابی کنیم ...
Newsletter InnerSelf: September 27، 2020
by InnerSelf کارکنان
یکی از نقاط قوت نژاد بشر توانایی ما در انعطاف پذیری ، خلاقیت و تفکر خارج از چارچوب است. اینکه کسی غیر از دیروز یا روز قبل باشیم. ما می توانیم تغییر کنیم ...