سیستم های عدلی کیفری، بازار های اعتباری، عرصه های اشتغال، فرآیندهای پذیرش تحصیلات عالی و حتی شبکه های رسانه های اجتماعی، الگوریتم های داده محور اکنون تصمیم گیری می کند در راه هایی که زندگی اقتصادی، اجتماعی و مدنی ما را لمس می کند. این سیستم های نرم افزاری اطلاعات رتبه بندی، طبقه بندی، وابسته یا فیلتر را، با استفاده از قوانین القا شده توسط انسان یا قوانین داده ای که به طور مداوم در سراسر جمعیت های بزرگ امکان پذیر است، ارائه می دهد.
اما در عین حال ممکن است از مزایای این تکنیک ها نیز بهره مند شوند تعصبات بندرگاه در برابر گروه های محروم or تقویت تبعیض ساختاری. برای مثال، از نظر عدالت کیفری، آیا منصفانه است که قضاوت در مورد آزادی فردی بر مبنای گرایش های آماری در یک گروه وسیع مردم انجام شود؟ آیا تبعیض ناشی از استفاده از یک مدل آماری می تواند باشد برای جمعیت یک کشور به جمعیت دیگری متفاوت از جمعیت جمعیتی تبدیل شده است؟
مردم نیاز به درک زوال و قدرت الگوریتم های مورد استفاده در حوزه عمومی دارند، از جمله توسط سازمان های دولتی. یک تلاش که من درگیر آن هستم، نامیده می شود پاسخگویی الگوریتمی، تلاش می کند تأثیرات این نوع سیستم ها را روشن تر و به طور گسترده تر درك كند.
تکنیک های شفافیت موجود، زمانی که به الگوریتم ها اعمال می شود، می توانند مردم را قادر به نظارت، حسابرسی و انتقاد از عملکرد سیستم ها کنند یا نه - به عنوان مثال ممکن است. متأسفانه، سازمان های دولتی به نظر می رسد برای سوالات در مورد الگوریتم ها و استفاده از آنها در تصمیم گیری که به طور قابل توجهی برای هر دو نفر و مردم در کل تاثیر می گذارد آماده نیست.
الگوریتم های باز کردن به بررسی عمومی
سال گذشته دولت فدرال شروع به تحصیل کرد جوانب مثبت و منفی استفاده از تجزیه و تحلیل داده های کامپیوتری برای کمک به تعیین احتمال زندان کردن زندانیان پس از آزادی. امتیاز دادن به افراد به عنوان کم، متوسط و یا بالا ریسک می تواند به تصمیم گیری های مسکن و درمان کمک کند، افرادی را که می توانند به راحتی به حداقل زندان امنیتی یا حتی "خانه نیمه راه" ارسال شوند، یا از یک نوع خاص مراقبت روانشناختی
این اطلاعات می تواند فرایند عدلی را کارآمد تر و ارزان تر و حتی کاهش تلفات در زندان را افزایش دهد. درمان مجرمان با ریسک کم خطر مانند مجرمان با ریسک بالا نشان داده شده است در برخی مطالعات منجر به آن می شود که درونی بودن یک جنایتکار "مریض" و نیاز به درمان برای رفتار انحرافی آنها باشد. جدا کردن آنها می تواند به توسعه رفتارهای منفی منجر شود که پس از آزادی منجر به رشوه خواری شود.
داده ها و الگوریتم هایی که برای ردگیری مجدد موارد جسمی به دست می آیند، در حال حاضر است به طور گسترده توسط ایالات استفاده می شود برای اداره بازداشت پیش از موعد، پرونده، حبس و حتی محکومیت. اما برای آنها آسان است که بدون توجه به آنها - آنها اغلب به نظر می رسد مانند ادبیات غیر قانونی کارهای کاغذی.
به طور معمول، الگوریتم ها به ورق های نمره ساده تر پر می شوند که توسط کارمندان دولتی با درک کمی از محاسبات پایه ای پر شده است. به عنوان مثال، یک کارمند پرونده ممکن است یک زندانی را با استفاده از یک فرم ارزیابی کند که در آن کارمند پرونده به این نتیجه رسیده است که زندانی به جرم خشونت محکوم شده است، در زمان دستگیری نخست جوان بود و از دبیرستان فارغ التحصیل نشده بود GED این عوامل و ویژگی های دیگر در مورد شخص و جرایم منجر به نمره ای می شود که نشان می دهد آیا ممکن است زندانی واجد شرایط بازپرسی از حق آزادی باشد یا خیر.
خود فرم، و همچنین سیستم امتیاز دهی آن، غالبا ویژگی های کلیدی الگوریتم را افشا می کند، مانند متغیرهای مورد بررسی و چگونگی جمعآوری آنها برای ایجاد نمره کلی ریسک. اما برای شفافیت الگوریتمی نیز مهم است که بدانیم چگونه چنین فرم هایی طراحی شده، توسعه یافته و ارزیابی می شوند. تنها پس از آن می توانید عموم آگاه باشید که آیا عوامل و محاسبات مربوط به ورود به نمره منصفانه و منطقی یا بی اطلاع و بی طرف هستند.
با استفاده از قانون آزادی اطلاعات
ابزار اصلی ما برای دست زدن به این اشکال و مواد حمایت کننده آنها قانون و به طور خاص قوانین آزادی اطلاعات است. آنها از جمله مکانیسم های قدرتمندی هستند که مردم برای اطمینان از شفافیت دولت در اختیار دارند. در سطح فدرال، قانون آزادی اطلاعات (FOIA) اجازه می دهد که مردم به طور رسمی درخواست - و انتظار می رود در مقابل دریافت اسناد و مدارک از دولت فدرال. مقررات مشابه وجود دارد برای هر ایالت.
قبل از استفاده گسترده از محاسبات، FOIA در 1966 اعمال شد، و قبل از اینکه اطلاعات بزرگ به طور مرتب در سیستم های نرم افزاری برای مدیریت افراد و پیش بینی ها مورد استفاده قرار گیرد، ایجاد شد. وجود دارد برخی تحقیقات اولیه آیا FOIA قادر به افشای کد منبع نرم افزاری است؟ اما یک سوال در مورد اینکه آیا قوانین فعلی پاسخگوی نیازهای جامعه قرن 21st است، می توان گفت: آیا ما می توانیم الگوریتم های FOIA را انجام دهیم؟
مطالعه موردی در شفافیت الگوریتم
من برای پاسخ به این سوال در کالج روزنامه نگاری فیلیپ مریل در دانشگاه مریلند، جایی که من دستیار استاد هستم در سقوط 2015، با همکاری با همکار من در کلاس قانون رسانه های سندی Banisky، ما دانش آموزان را در ارسال درخواست FOIA به هر یک از کشورهای 50 هدایت کردیم. ما از اسناد، توصیفات ریاضی، داده ها، ارزیابی اعتبار، قراردادها و کد منبع مربوط به الگوریتم هایی که در عدالت کیفری استفاده می شود، از قبیل شرایط آزادی و محاکمه، وثیقه و محکومیت خواسته شد.
به عنوان یک پروژه طولانی مدت، تلاش ضرورتا توسط زمان محدود شد، با مقدار زیادی مانع و موفقیت های نسبتا کمی. همانند بسیاری از تحقیقات روزنامه نگاران، حتی بدانید که چه کسی باید بپرسد - و چطور - یک چالش بود. سازمان های مختلف ممکن است مسئول مناطق مختلف سیستم عدالت کیفری باشند (ممنوعیت ممکن است توسط دادگاه ها انجام شود، اما مدیریت رفع مشاجرات توسط وزارت اصلاحات انجام می شود).
حتی پس از شناسایی فرد مناسب، دانش آموزان متوجه شدند که مقامات دولتی از اصطلاحات گوناگون استفاده می کردند که ارتباط آنها را با اطلاعاتی که می خواستند، سخت می کرد. بارها، دانشجویان مجبور به سختی کار کردند تا "الگوریتم های جنایی کیفری" را به یک خدمتکار دولتی اطلاعاتی غافل گیر داده شود. به تازگی، ممکن است موثرتر از درخواست ابزار «ارزیابی ریسک» باشد، زیرا این اصطلاح اغلب توسط دولت های ایالتی مورد استفاده قرار می گیرد.
رسیدگی به پاسخ ها
برخی از ایالت ها، مانند کلرادو، مسدود کردن درخواست ما را رد کردند و گفتند که الگوریتم ها در نرم افزار قرار گرفته اند، که به عنوان یک "سند" محسوب نمی شود که قوانین باز دولتی مورد نیاز مقامات را در اختیار عموم قرار می دهد. ایالات مختلف قوانین مختلفی در مورد افشای استفاده از نرم افزار دارند. این گاهی اوقات در دادگاهها مانند یک 2004 ظاهر می شود متهم به شهر دیترویت بیش از اینکه آیا فرمول محاسبه هزینه های آب به یک شهر مجاور باید عمومی شود.
در تلاش های خود ما تنها یک توضیح ریاضی از الگوریتم عدالت کیفری دریافت کردیم: اورگان افشا کرد متغیرهای 16 و وزن آنها در یک مدل استفاده شده در آنجا برای پیش بینی ریشه کنی. دولت داکوتای شمالی یک صفحه گسترده اکسل را نشان داد که معادله ای را برای تعیین تاریخ های زمانی که زندانیان واجد شرایط برای محاکمه در نظر گرفته می شوند، نشان می دهند. ما از آیداهو و نیومکزیکو اسنادی را با برخی از توصیف های ارزیابی ریسک های ریسک پذیری که در آن کشورها استفاده شده بود دریافت کردیم، اما هیچ جزئیاتی در مورد نحوه ایجاد یا اعتبار آنها نداشتیم.
نه ایالت ها بر این باور بودند که این اطلاعات در واقع متعلق به یک شرکت است. این مفهوم این است که آزاد کردن الگوریتم به شرکتی که آن را توسعه داده، آسیب می رساند. یک پرسشنامه ریسک پذیری رایج LSI-R نامیده می شود، به نظر می رسد یک محصول تجاری است که توسط کپی رایت محافظت می شود. ایاالت متحده مانند هاوایی و مین ادعا کرد که از افشای آن به مردم جلوگیری می کند.
لوئیزیانا گفت قرارداد خود با توسعه دهنده یک روش ارزیابی خطر جدید انتشار اطلاعات درخواست شده را برای شش ماه ممنوع کرده است. دولت کنتاکی قرارداد خود را با یک قرارداد پایه بشردوستانه به عنوان دلیل آن نمی تواند جزئیات بیشتر را افشا کند. نگرانی در مورد اطلاعات اختصاصی ممکن است قانونی باشد، اما با توجه به این که دولت به طور معمول با شرکت های خصوصی قرارداد دارد، چگونه این نگرانی ها را در برابر یک سیستم عدالت قابل تفسیر و قانونی محاسبه کنیم؟
بهبودی
اصلاحات FOIA بسیار مورد نیاز است در حال حاضر تحت مشورت است توسط کنگره این فرصتی برای ارتقاء قانون است، اما تغییرات پیشنهادی هنوز به اندازه کافی برای استفاده روزافزون از الگوریتم های دولت ناکام ماندند. اطلاعات شفافیت الگوریتمی ممکن است کدگذاری شود به گزارش هایی که دولت به طور منظم به عنوان بخشی از کسب و کار به طور منظم تولید می کند و به صورت عمومی منتشر می کند.
به عنوان یک جامعه ما باید مستلزم آموزش افسران اطلاعات عمومی باشیم تا آنها سواد و حقیقتا در اصطلاح شناختی که ممکن است در هنگام درخواست عمومی برای الگوریتم ها بوجود آیند، روان باشند. دولت فدرال ممکن است حتی یک موقعیت جدید برای یک «الگوریتم چز» ایجاد کند که یک وکیل است که وظیفه آن برقراری ارتباط و تحقیقات در زمینه اتوماسیون دولتی است.
هیچ یک از اسنادی که در تحقیق ما دریافت کردیم به ما نشان داد که چگونه فرم های ارزیابی ریسک کیفری توسعه یافته یا ارزیابی شد. همانطور که الگوریتمها بیشتر و بیشتر زندگی ما را اداره می کنند، شهروندان باید - و باید تقاضا - شفاف تر باشند.
درباره نویسنده
نیکلاس دیاپوکولوس، همکار Tow، مرکز تحویل روزنامه نگاری دیجیتال در دانشگاه کلمبیا؛ استادیار روزنامه نگاری، دانشگاه مریلند. تحقیق او در روزنامه نگاری محاسباتی و داده با تاکید بر پاسخگویی الگوریتمی، تجسم داده روایت و محاسبات اجتماعی در اخبار است.
این مقاله در اصل در تاریخ منتشر شد گفتگو. دفعات بازدید: مقاله.
کتاب های مرتبط
at InnerSelf Market و آمازون
