وقت آن است که به الگوریتم هایی که برادر بزرگ را قدرت می دهند نور بتابانیم

: By فیلیپ گارنت ، دانشگاه یورک

با تشکر از بازدید شما InnerSelf.com، که در آن وجود دارد 20,000 + مقاله‌های تغییردهنده زندگی که «نگرش‌های جدید و امکانات جدید» را تبلیغ می‌کنند. همه مقالات به ترجمه شده است بیش از 30 زبان. اشتراک به مجله InnerSelf که به صورت هفتگی منتشر می شود و الهام روزانه ماری تی راسل. مجله InnerSelf از سال 1985 منتشر شده است.

شکستن

مرتب سازی بر اساس الگوریتم ما را در جعبه قرار می دهد. چگونه می دانیم که آنها درست هستند؟ تولید شده، CC BY

جامعه به نظر می رسد بر روی یک دوره به نقطه ای که در آن زندگی ما تحت بررسی الگوریتم های کامپیوتر است. داده هایی که ما تولید می کنیم، از نظر دولت و برای امنیت ملی یا شرکت ها برای سود سود می برند و تحلیل می شود، و این بعید است که تغییر کند - قدرت و درخواست تجدید نظر در تجزیه و تحلیل داده ها، زمانی که یافت نشد، به آسانی داده نخواهد شد.

اما حقیقتا من تعجب می کنم که آیا من بیشتر نگران این هستم که داده های ما جمع آوری شده یا این واقعیت که ما هیچ چیز در مورد الگوریتم هایی که قضاوت ما را بر عهده می گیرند چیزی نمی دانیم.

سطح جزئیات زندگی و عادت ما که می تواند از اطلاعاتی که ما پشت سرمان گذاشته است، برداشت نکرده ایم، پیش از آن مورد بحث قرار گرفته است و به عنوان بخشی از بحث در مورد پیش نویس UK تحقیق قدرت بیل. ما حداقل می دانیم که چه اطلاعاتی جمع آوری شده است و چه مدت نگهداری می شود، بعضی از آنها تحت قانون UK و European قرار می گیرند.

در متن پیش نویس لایحهبرای مثال، ما می دانیم که دولت بریتانیا تنها خواستار (غیرمجاز) دسترسی به متادیتای ارتباطی، هدر ها و موضوعات ایمیل ها و پرونده های تماس تلفنی خواهد بود. اما ما همچنین می دانیم که چگونه می توان افسانه های متادیتا را تنها گذاشت: نگاهی به پروژه غوطه وری آزمایشگاه رسانه MIT برای یک مثال قدرتمند از اینکه چقدر جزئیات را می توان از آن مشخص کرد. مطمئنا در مقایسه با یک لایحه تلفنی مشخص نیست، ادعا کرد.

بنابراین برای ما بهتر یا بدتر، عموم مردم، در مورد آنچه در حال ضبط هستند، دارای برخی نکات هستند. اما ما کاملا فکر نمیکنیم چه ابزار و تکنیک های تحلیلی برای این داده ها استفاده می شود - و اهمیت این نباید فراموش شود.

چه چیزی خراب می شود؟

ما می توانیم حدس های آموزشی بگیریم آژانس های امنیت ملی احتمالا از ابرداده های ما برای ایجاد شبکه های اجتماعی بین مردم و مکان ها استفاده می کنند، از جمله چیزهایی که ما را با هم مرتبط می کند. سپس این شبکه های ارتباطی تجزیه و تحلیل خواهد شد تا تعیین کنیم آیا ما فردی هستیم که با توجه به اینکه چگونه با سایر افراد مورد علاقه مقایسه کنید و چگونگی ارتباط با شخصیت های موجود و یا مرتبط با آنها را تعیین کنید.

محققانی که از این تکنیک ها استفاده می کنند، محدودیت های خود را درک می کنند و الگوریتم هایی که آنها را قدرت می دهد، ممکن است حاوی خطاها یا فرض های اساسی باشد که تاثیر زیادی بر تولید آنها داشته باشد. در این مورد، این ممکن است به این معنی باشد که آیا شما یک تروریست هستید یا خیر، و یا واجد شرایط دریافت وام یا وام مسکن هستید.

همچنین مشخص نیست که در ناحیه مرزی فازی، وجود ارتباط وجود دارد. آیا به سادگی بازدید از همان وب سایت به عنوان یک ارزش مشترک به معنی تروریست ها، و یا سوار همان مسیر اتوبوس هر روز نشان می دهد شما به طور منظم با تروریست ها صحبت می کنید؟ برای بسیاری از دلایل قانونی ممکن است بازدید از سایت هایی که توسط تروریست های شناخته شده مورد بازدید قرار گرفته اند. اگر شما اخبار خود را از وب سایت های مشابه به عنوان تروریست ها دریافت می کنید، احتمال بیشتری دارید که تروریست باشید؟ تبعیض و تعصب می تواند در نقطه جمع آوری داده ها معرفی شود و سپس دوباره در مورد چگونگی تجزیه و تحلیل داده ها تصمیم گیری شود. الگوریتم ها همچنین می توانند تبعیض قائل شوند.

مرزهای خالی

احتمال این که الگوریتم ها تعصب نامطلوب را معرفی می کنند بسیار واقعی است. به عنوان مثال، کسانی که توسط سرویس های امنیتی استفاده می شوند بر روی مجموعه داده های تروریست شناخته شده و غیر تروریست شناخته شده آموزش داده می شود. این به این معنی است که همانطور که بیشتر تروریست ها شناخته شده هستند، مردان 20-30 هستنداحتمالا بیشتر به عنوان یک تروریست محسوب می شود، صرف نظر از ویژگی های دیگر شما فقط به اندازه مردان و سن تقریبا 20-30 است. اگر چنین است آیا این تأثیری بر نحوه استفاده از داده ها دارد؟

این مشکل ناشی از این واقعیت است که من و دیگر محققان دانشگاهی با استفاده از تجزیه و تحلیل شبکه پیچیده، یادگیری ماشین، تطبیق الگوی یا تکنیک های هوش مصنوعی، از تکنیک های مورد استفاده برای بررسی قدرت تکنیک ها و اعتبار نتیجه گیری استفاده می کنند. خدمات امنیتی دولتی و سازمان های بخش خصوصی انجام نمی دهند. ما نمیدانیم کیفیت روشها و چگونگی اعمال آنها چیست. آیا برای این راه حلی وجود دارد؟

کسانی که از یک حوزه امنیتی دیگر، رمزنگاری، مدتها قبل آموخته بودند که بهترین راه برای بهبود کیفیت و به همین ترتیب امنیت آن الگوریتم ها، این بود که آنها را عموم بسازند. پیاده سازی های رمزنگاری و رمزنگاری ها منتشر شده اند و محققان تشویق می کنند سعی در پیدا کردن اشتباهات و خطاها در انجام این کار بهبود امنیت برای همه کسانی که از آنها استفاده می کنند. علاوه بر این، هرگونه اجرای الگوریتمهای رمزنگاری بسته (غیر عمومی) به طور کلی با توجه به سوء ظن. اگر آنها قضاوت های زندگی در حال تغییر را بر ما اعمال کنند - چه ما به عنوان تروریست ها یا به لحاظ مالی غیرقابل ارزشی داریم - همان الگوریتم های امنیتی را باید به کار برد.

استدلال در برابر چنین حرکتی این است که الگوریتم های باز و شفاف ممکن است تروریست ها را به تغییر رفتار دنیای خود ترغیب کنند تا از شناسایی آنها جلوگیری شود. این به معنای تغییر دادن چیزهایی مانند تعاملات، انجمن ها، عادت های مرور و حرکات بالقوه است. اما اگر الگوریتم ها به درستی کار کنند، این بدان معنی است که آنها اساسا مانند تروریست ها عمل می کنند. اگر امنیت، آزادی و ایمنی آینده ما وابسته به این الگوریتم ها باشد، باید دقیقا مطمئن شویم که چگونه کار می کنند.