احمد میسیرلیگول / Shutterstock
فیلم کوتاه Slaughterbots آینده ای نزدیک را به تصویر می کشد که در آن می توانید صدای میکرو هواپیماهای بدون سرنشین هزاران انسان را به دلیل عقاید سیاسی خود ترور کنند. در ماه نوامبر 2017 منتشر شد توسط دانشگاهیان و فعالان با هشدار از خطرات هوش مصنوعی پیشرفته (AI) ، به سرعت ویروسی شد و تا به امروز بیش از نماهای 3m را به خود جلب کرد. این به جرقه کمک کرد بحث های عمومی در مورد آینده سلاح های خودمختار و تحت فشار قرار دادن دیپلمات ها در سازمان ملل متحد کنوانسیون سلاح های متعارف.
اما این نوع داستان نویسی علمی تخیلی فقط برای جلب توجه مفید نیست. افرادی که فناوری پیشرفته طراحی و ساخت می کنند می توانند از داستان استفاده کنند تا عواقب کار خود را در نظر بگیرند و اطمینان حاصل کنند که از آن برای خوبی استفاده شده است. و ما فکر می کنیم که این نوع "نمونه سازی های علمی تخیلی" یا "طراحی داستان" می تواند به جلوگیری از سوء استفاده انسان از ورود به فناوری جدید کمک کند و تعصبات و بی عدالتی های جامعه را درگیر کند.
{vembed Y = 9CO6M2HsoIA}
تعصب می تواند منجر به ترجیح دلخواه برخی از مقولات (نتایج ، افراد یا ایده ها) نسبت به سایرین شود. به عنوان مثال ، برخی از افراد ممکن است نسبت به استخدام زنان برای مشاغل اجرایی ، خواه از این امر آگاهی داشته باشند ، تعصب داشته باشند یا نه.
فن آوری ساخته شده در اطراف داده هایی که چنین سوگیری را ثبت می کنند می تواند به پایان برسد تکرار مشکل. به عنوان مثال ، نرم افزار استخدام طراحی شده برای انتخاب بهترین CV ها برای یک کار خاص ممکن است برنامه ریزی شود تا به دنبال خصوصیاتی باشد که منعکس کننده تعصب ناخودآگاه نسبت به مردان باشد. در این حالت ، الگوریتم به نفع CV های مردان پایان می یابد. و این نظری نیست - آن در واقع برای آمازون اتفاق افتاده است.
طراحی الگوریتم های بدون در نظر گرفتن پیامدهای منفی احتمالی مقایسه شده است برای پزشکان "در مورد مزایای یک معالجه نوشتن و صرف نظر از عوارض جانبی ، مهم نیست که چقدر جدی هستند".
برخی از شرکتها و محققان فناوری سعی در حل این مسئله دارند. به عنوان مثال ، Google یک A را ترسیم کرد مجموعه اصول اخلاقی برای راهنمایی در پیشرفت آن و دانشگاهیان انگلستان ابتکاری را به نام آغاز کرده اند نا برابر که هدف آن تشویق عدالت و عدالت بیشتر در طراحی و استفاده از فناوری است.
مشکل این است که ، به طور عمومی ، شرکت ها تمایل دارند فقط دید مثبتی در مورد پیامدهای احتمالی فن آوری های نزدیک به آینده ارائه دهند. به عنوان مثال ، اتومبیل های بدون راننده اغلب به عنوان حل همه مسائل حمل و نقل ما از هزینه تا ایمنی به تصویر کشیده می شوند و از افزایش آن غافل می شوند خطرات حملات سایبری یا این واقعیت است که آنها می توانند مردم را ترغیب کنند پیاده روی یا چرخه کمتر.
دشواری در درک نحوه کار فناوریهای دیجیتال ، به ویژه مواردی که به شدت توسط الگوریتم های مبهم رانده می شوند ، همچنین داشتن دیدگاه پیچیده و جامع از موضوعات را برای افراد سخت تر می کند. این وضعیت بین یک روایت مثبت اطمینان بخش و سوء ظن مبهم مبنی بر اینکه تعصبات تا حدی در فناوریهای اطراف ما تعبیه شده است ، ایجاد می شود. این جایی است که ما فکر می کنیم داستان گویی از طریق طراحی داستانی می تواند وارد شود.
داستانها یک روش طبیعی برای فکر کردن در مورد احتمالات و موقعیتهای پیچیده هستند و ما در تمام زندگی ما آنها را شنیده ایم. داستان های علمی می توانند به ما کمک کنند تا تأثیر فن آوری های نزدیک به آینده بر جامعه را حدس بزنیم ، همانطور که Slaughterbots انجام می دهد. این حتی می تواند شامل مسائل مربوط به عدالت اجتماعی باشد ، مانند روشی که برخی از گروه ها مانند پناهندگان و مهاجران می توانند داشته باشند محروم از نوآوری های دیجیتال
آشکار کردن آینده (ممکن)
طراحی داستانهای داستانی روشی جدید برای طراحان ، مهندسان و آینده نگاران (در میان دیگران) فراهم کنید تا در مورد تأثیر فناوری از منظر انسانی فکر کنند و این را به نیازهای احتمالی آینده پیوند دهند. با ترکیبی از منطق و تخیل ، داستان نویسی طراحی می تواند جنبه هایی از چگونگی اتخاذ و استفاده از فناوری را نشان دهد ، شروع مکالمات در مورد آن نتایج آینده.
به عنوان مثال ، داستان کوتاه "منبع جنایی"بررسی می کند چه اتفاقی می تواند رخ دهد اگر AI برای استفاده از اطلاعات جمع شده و یک پایگاه داده جنایی پیش بینی کند چه کسی ممکن است مرتکب یک قتل شود. محققان دریافتند که از آنجا که این بانک اطلاعاتی پر از افراد در اقلیت های اقلیت بود که به دلایل اجتماعی از نظر آماری بیشتر مجدداً مورد استفاده قرار می گرفتند ، الگوی "تأمین جرم" به احتمال زیاد بیشتر به اشتباه به اقلیت ها مشکوک شده است از مردم سفید پوست.
لازم نیست که یک نویسنده با استعداد باشید یا یک فیلم نرم و صاف درست کنید تا داستانی با طراحی بسازید. فعالیت های طوفان مغزی با کارت و داشبورد استفاده شده است برای توسعه داستان های طراحی و کمک به توسعه روند داستان پردازی. ساخت کارگاه هایی که از این نوع ابزارها بیشتر استفاده می شود ، باعث می شود مهندسین ، کارآفرینان و سیاستگذاران بیشتری بتوانند از این روش ارزیابی استفاده کنند. و قرار دادن کار حاصل در دسترس عموم به افشای سوگیری های احتمالی در فن آوری ها قبل از تأثیرگذاری بر جامعه کمک می کند.
تشویق طراحان برای ایجاد و به اشتراک گذاشتن داستانهای بیشتر از این طریق ، این روایت را تضمین می کند که اساس فناوری جدید نه تنها تصویر مثبتی را ارائه نمی دهد ، نه یک تصویر بسیار منفی یا منفی. درعوض ، مردم قادر خواهند بود از هر دو جنبه اتفاقات پیرامون ما قدردانی کنند.
درباره نویسنده
آلسیو مالزیا، استاد طراحی تجربه کاربری ، دانشگاه هرتفوردشایر و سیلویو کارتا، رئیس هنر و طراحی و رئیس گروه تحقیق طراحی ، دانشگاه هرتفوردشایر
این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.
