الگوریتم های تشخیص چهره معمولاً با استفاده از چهره های سفید آزمایش می شوند ، که منجر به عدم امکان تشخیص این فن آوری در بین افراد نژادپرست می شود. (Shutterstock)

پلیس دیترویت به غلط رابرت جولیان-بورچاک ویلیامز را در ژانویه سال 2020 دستگیر کرد برای یک حادثه خرید و فروش که دو سال قبل اتفاق افتاده بود. اگرچه ویلیامز هیچ ارتباطی با این ماجرا نداشت ، فناوری تشخیص چهره که توسط پلیس ایالتی میشیگان استفاده شده است چهره وی را با تصویر غلیظی بدست آمده از یک ویدیوی نظارت در فروشگاه نشان داد که مردی دیگر از آفریقایی آمریکایی را که ساعتهای 3,800 دلاری در دست گرفته است ، مطابقت داد.

دو هفته بعد ، پرونده به درخواست دادستان عزل شد. با این حال ، با تکیه بر مسابقه معیوب ، پلیس قبلاً ویلیامز را در مقابل خانواده وی دستگیر کرده و وی را دستگیر کرده بود ، وی را مجبور کرده بود یک شات لیوان ، اثر انگشت و نمونه ای از DNA وی تهیه کند ، وی را مورد بازجویی قرار داد و یک شبه زندانی کرد.

کارشناسان معتقدند ویلیامز تنها نیست و دیگران نیز در معرض بی عدالتی های مشابه قرار گرفته اند. بحث و گفتگوهای مداوم در مورد استفاده پلیس از Clearview AI قطعاً خطرات حریم خصوصی ناشی از فناوری تشخیص چهره را تأکید می کند. اما تحقق این مهم است همه ما به طور مساوی آن خطرات را تحمل نمی کنیم.

آموزش الگوریتم های نژادپرستانه

فناوری تشخیص چهره که هست آموزش دیده و تنظیم چهره های قفقازی بطور منظم افراد نژادپرستانه را به طور غیرمستقیم و گمراه کننده می شناسد: مطالعات بیشماری نشان می دهد که فناوری تشخیص چهره "نقص و مغرضانه ، با خطای قابل توجهی بالاتر هنگام استفاده در برابر افراد رنگ"

این فردیت و انسانیت افراد نژادپرست را تضعیف می کند افرادی که احتمالاً به عنوان جنایتکار شناخته می شوند. این فناوری - و خطاهای شناساییی که ایجاد می کند - انعکاس بخشهای دیرپای اجتماعی است که عمیقاً با نژادپرستی ، سکسیسم ، همو هراسی ، شهرک نشین-استعمار و سایر ظلمهای درگیر درگیر شده است.

{vembed Y = vSuDE6wvQlU}
تحقیقات France24 در مورد تعصب نژادی در فن آوری تشخیص چهره.

چگونه فناوری کاربران را دسته بندی می کند

در کتاب تغییر بازی سال 1993 ، Panoptic مرتب سازی بر اساسمحقق اسکار گندی هشدار داد كه "فناوری پیچیده [كه شامل جمع آوری ، پردازش و به اشتراک گذاری اطلاعات در مورد افراد و گروههایی است كه در زندگی روزمره آنها ایجاد می شود ... برای هماهنگی و كنترل دسترسی آنها به كالاها و خدماتی كه زندگی را تعریف می كنند استفاده می شود. اقتصاد مدرن سرمایه داری " اجرای قانون از آن استفاده می کند تا افراد مظنون را از بین ببرد و سازمان های خصوصی از آن استفاده کنند تا مشخص کنند آیا ما به چیزهایی مانند این دسترسی داریم یا نه بانکداری و استخدام.

گاندی به طور نبوی هشدار داد كه در صورت عدم كنترل ، این نوع "مأموریت سایبرنتیك" اعضای جامعه جوامع برابری - به عنوان مثال ، گروه هایی كه نژادپرستانه یا از نظر اقتصادی و اجتماعی از نظر اقتصادی محروم هستند - را از بین می برد. چگونه آنها می توانند خودشان را درک کنند.

حدود 25 سال بعد ، ما اکنون با نوع پانوپتیک روی استروئیدها زندگی می کنیم. و نمونه هایی از تأثیرات منفی آن بر جوامع مبتنی بر برابری ، مانند شناسایی غلط ویلیامز ، بسیار زیاد است.

تعصب از قبل موجود

این مرتب سازی با استفاده از الگوریتم ها به اساسی ترین جنبه های زندگی روزمره نفوذ می کند و در پی آن خشونت مستقیم و ساختاری رخ می دهد.

خشونت مستقیمی که ویلیامز تجربه کرد بلافاصله در حوادث دستگیری و بازداشت وی مشهود است ، و مضرات فردی که وی تجربه کرده است آشکار است و می توان با اقدامات پلیس که تصمیم به اتکا به "مسابقه" فن آوری برای دستگیری گرفت ، ردیابی کرد. موذیانه تر است خشونت ساختاری از طریق فن آوری تشخیص چهره و سایر فن آوری های دیجیتال این نرخ ، هماهنگی ، طبقه بندی و مرتب سازی افراد به روش هایی که الگوهای تبعیض آمیز از قبل موجود را بزرگ می کنند.

آسیب های ساختاری آشکارتر و کمتر مستقیم است و از طریق انکار سیستماتیک به قدرت ، منابع و فرصت ها باعث آسیب به گروه های برابری می شود. به طور همزمان ، خطر و آسیب مستقیم اعضای هر گروه را افزایش می دهد.

استفاده های پلیس پیش بینی شده پردازش الگوریتمی داده های تاریخی برای پیش بینی زمان وقوع جرائم جدیدمنابع پلیس را بر این اساس اختصاص می دهد و نظارت پلیس را در جوامع معمولاً در محلات با درآمد پایین و نژادپرستانه نظارت می کند. این شانس را افزایش می دهد که هرگونه فعالیت مجرمانه - از جمله فعالیت های جنایی کمتری که در غیر این صورت ممکن است پاسخ پلیس نداشته باشد - کشف و مجازات می شود ، در نهایت احتمال زندگی افرادی که در آن محیط زندگی می کنند محدود می شود.

و شواهد نابرابری در بخش های دیگر همچنان در حال افزایش است. صدها دانش آموز در انگلستان در روز 16 اوت به نتایج فاجعه بار اعتراض کرد بی نظیر، یک الگوریتم ناقص دولت انگلیس برای تعیین اینکه دانش آموزان واجد شرایط بودن برای دانشگاه هستند. در سال 2019 ، سرویس تبلیغاتی ریزگرد شارژ فیس بوک به ده ها کارفرمای بخش دولتی و خصوصی کمک کرد افراد را از دریافت آگهی های شغلی بر اساس سن و جنس خودداری کنید. تحقیقات انجام شده توسط ProPublica اثبات شده است تبعیض قیمت مبتنی بر نژاد برای محصولات آنلاین. و موتورهای جستجو مرتباً نتایج نژادپرستانه و جنسی را تولید می کنند.

سركوب ظلم

این نتایج حائز اهمیت است زیرا نابرابری های موجود را بر اساس ویژگی هایی مانند نژاد ، جنسیت و سن ثابت و تقویت می کند. آنها همچنین دارای اهمیت هستند زیرا تأثیر عمیقی بر چگونگی شناخت خودمان و دنیای اطرافمان ، گاهاً توسط آنها ، می گذارد قبل از انتخاب اطلاعات ما به روشهایی دریافت می کنیم که ادراک کلیشه ای را تقویت می کنند. حتی شرکتهای فناوری نیز این موضوع را تصدیق می کنند فوریت متوقف کردن الگوریتم ها از ایجاد تبعیض.

تا به امروز موفقیت تحقیقات ad hoc که توسط خود شرکت های فناوری انجام شده است مغایرت ندارد. بعضی اوقات ، شرکت های درگیر در تولید سیستم های تبعیض آمیز ، آنها را از بازار بیرون می کشند ، مانند زمان Clearview AI اعلام کرد دیگر نمی تواند فناوری تشخیص چهره را در کانادا ارائه دهد. اما غالباً چنین تصمیماتی ناشی از نظارت نظارتی یا فقط اعتراض عمومی است بعد از اعضای جوامع برابری خواه از قبل آسیب دیده اند.

وقت آن است که ابزارهای لازم برای رفع مشکل به موسسات نظارتی خود ارائه دهیم. محافظت از حریم خصوصی ساده که به رضایت فردی بستگی دارد تا بتواند داده ها را توسط شرکت ها ضبط و بازگرداند ، نمی تواند از نتایج تبعیض آمیز آن استفاده کند. این به ویژه در عصری که بیشتر ما (از جمله خود شرکت های فناوری) به طور کامل نمی توان درک کرد که الگوریتم ها چه کاری انجام می دهند یا چرا آنها نتایج خاصی را تولید می کنند.

حریم خصوصی یک حق انسانی است

بخشی از راه حل مستلزم تجزیه سیلوهای نظارتی کنونی است که با حریم خصوصی و حقوق بشر به عنوان موضوعات جداگانه رفتار می کنند. با تکیه بر یک الگوی محافظت از داده مبتنی بر رضایت ، در مقابل این اصل اساسی قرار می گیرد که حریم خصوصی و برابری هر دو حقوق انسانی هستند که نمی توان با آنها قرارداد برقرار کرد.

حتی منشور دیجیتال کانادا - آخرین تلاش دولت فدرال برای پاسخ به کاستی های وضعیت فعلی محیط دیجیتال - این تفاوت های مفهومی را حفظ می کند. با نفرت و افراط گرایی ، کنترل و رضایت و دموکراسی شدید به عنوان مقولات جداگانه رفتار می کند.

برای پرداختن به تبعیض الگوریتمی ، ما باید حریم خصوصی و برابری را به عنوان حقوق بشر بشناسیم و آنرا قاب کنیم. و ما باید زیرساخت هایی را ایجاد کنیم که در هر دو مورد به همان اندازه مورد توجه و متخصص باشد. بدون چنین تلاشهایی ، درخشش ریاضی و علم همچنان به استتار تعصبات تبعیض آمیز AI می پردازد و می توان انتظار داشت که مسافرتهایی مانند آن که به ویلیامز تحمیل شده است ، چند برابر شود.

درباره نویسنده

جین بیلی ، استاد حقوق و همیار رهبر پروژه eQuality ، L'Université d'Ottawa / دانشگاه اتاوا؛ ژاکلین بورکل ، معاون معاون رئیس جمهور ، تحقیقات ، دانشگاه غربی، و والری استیوز ، استاد کامل ، L'Université d'Ottawa / دانشگاه اتاوا

این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.

کتاب های نابرابری از لیست پرفروش ترین های آمازون

"کاست: ریشه های نارضایتی ما"

توسط ایزابل ویلکرسون

ایزابل ویلکرسون در این کتاب به بررسی تاریخچه نظام های کاست در جوامع سراسر جهان از جمله در ایالات متحده می پردازد. این کتاب تأثیر کاست را بر افراد و جامعه بررسی می‌کند و چارچوبی برای درک و پرداختن به نابرابری ارائه می‌دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

"رنگ قانون: تاریخ فراموش شده چگونگی جداسازی آمریکا توسط دولت ما"

توسط ریچارد روتشتاین

در این کتاب، ریچارد روتشتاین به بررسی تاریخچه سیاست‌های دولتی می‌پردازد که جداسازی نژادی را در ایالات متحده ایجاد و تقویت کرد. این کتاب تأثیر این سیاست‌ها را بر افراد و جوامع بررسی می‌کند و فراخوانی برای اقدام برای رسیدگی به نابرابری مداوم ارائه می‌دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

"مجموع ما: نژادپرستی به چه قیمتی برای همه تمام می شود و چگونه می توانیم با هم پیشرفت کنیم"

توسط هدر مک گی

در این کتاب، هدر مک‌گی به بررسی هزینه‌های اقتصادی و اجتماعی نژادپرستی می‌پردازد و چشم‌اندازی برای جامعه‌ای عادلانه‌تر و مرفه‌تر ارائه می‌دهد. این کتاب شامل داستان هایی از افراد و جوامعی است که نابرابری را به چالش کشیده اند و همچنین راه حل های عملی برای ایجاد جامعه ای فراگیرتر را شامل می شود.

برای اطلاعات بیشتر یا سفارش کلیک کنید

افسانه کسری بودجه: نظریه پولی مدرن و تولد اقتصاد مردمی

توسط استفانی کلتون

در این کتاب، استفانی کلتون ایده های مرسوم در مورد هزینه های دولت و کسری بودجه ملی را به چالش می کشد و چارچوب جدیدی برای درک سیاست های اقتصادی ارائه می دهد. این کتاب شامل راه حل های عملی برای رسیدگی به نابرابری و ایجاد یک اقتصاد عادلانه تر است.

برای اطلاعات بیشتر یا سفارش کلیک کنید

"جیم کرو جدید: زندانی شدن دسته جمعی در عصر کوررنگی"

توسط میشل اسکندر

در این کتاب، میشل الکساندر به بررسی راه هایی می پردازد که در آن سیستم عدالت کیفری نابرابری و تبعیض نژادی را به ویژه علیه سیاهپوستان آمریکایی تداوم می بخشد. این کتاب شامل تحلیل تاریخی نظام و تأثیر آن و همچنین دعوت به اقدام برای اصلاح است.

برای اطلاعات بیشتر یا سفارش کلیک کنید