پیدا کردن اعتماد و درک در فن آوری های خودمختارعکس توسط: Norbert Aepli، Switzerland (کاربر: Noebu)

در 2016، خودروهای خود رانندگی جریان اصلی را دنبال کردند. وسایل نقلیه خودمختار Uber تبدیل به همه جا شد در محله هایی که در پیتسبورگ زندگی می کنند، و به طور خلاصه در سانفرانسیسکو. وزارت حمل و نقل ایالات متحده صادر شد راهنمایی های نظارتی جدید برای آنها. بی شماری اوراق و ستون ها چگونه اتومبیل خود رانندگی را مورد بحث قرار داد باید حل سوانح اخلاقی وقتی همه چیز اشتباه است و، متاسفانه، 2016 همچنین مشاهده کرد اولین مرگ و میر ناشی از یک وسیله نقلیه مستقل.

فن آوری های خودمختار به سرعت در حال گسترش بیش از بخش حمل و نقل، به مراقبت های بهداشتی, پیشرفته فایرفاکس و حتی سلاح های مستقل. در 2017 ما باید تصمیم بگیریم که آیا می توانیم به این فن آوری ها اعتماد کنیم. این خیلی سخت تر از انتظار ما است.

اعتماد پیچیده و متنوع است، بلکه بخش مهمی از زندگی ما است. ما اغلب به تکنولوژی اعتماد داریم بر اساس پیش بینی: من به چیزی اعتماد دارم اگر می دانم که در یک موقعیت خاص چه کاری انجام خواهد داد، حتی اگر نمی دانم چرا. به عنوان مثال، به کامپیوترم اعتماد دارم زیرا می دانم که چگونه آن را اجرا خواهد کرد، از جمله زمانی که آن را شکستن. من متوقف می کنم اعتماد به نفس اگر آن شروع به رفتار متفاوت و یا شگفت آور.

در مقابل، اعتماد من به همسر من بر اساس است درک باورها، ارزشها و شخصیت او. به طور کلی، اعتماد بین فردی مستلزم دانستن دقیقا همان چیزی است که فرد دیگری انجام می دهد - همسر من قطعا من گاهی اوقات شگفت زده می شود! - اما به این دلیل که آنها به عنوان آنها عمل می کنند. و البته، ما می توانیم در هر دو صورت به کسی (یا چیزی) اعتماد کنیم، اگر ما هر دو آنچه را که انجام می دهیم و چه چیزی می دانیم.

من در مورد پایگاه های احتمالی اعتماد به ماشین های خود رانندگی و دیگر فناوری های مستقل از دیدگاه های اخلاقی و روانی کاوش کرده ام. این دستگاه ها هستند، بنابراین پیش بینی می تواند مانند کلید باشد. با این حال، به دلیل استقلال آنها، ما باید اهمیت و ارزش و چالش یاد بگیریم تا به آنها اعتماد کنیم تا به دیگران اعتماد کنیم.


گرافیک اشتراک درونی


خودمختاری و پیش بینی پذیری

ما می خواهیم تکنولوژی های ما، از جمله ماشین های خود رانندگی، رفتارهایی را که می توانیم پیش بینی کنیم و انتظار داشته باشیم. البته، این سیستم ها می توانند کاملا حساس به زمینه، از جمله وسایل نقلیه دیگر، عابران پیاده، شرایط آب و هوایی و غیره. به طور کلی، هرچند ممکن است انتظار داشته باشیم که یک ماشین خودکار که بارها و بارها در یک محیط قرار داده شده، احتمالا به هر حال رفتار مشابهی داشته باشد. اما به هر حال این ماشین های بسیار پیش بینی شده مستقل هستند، نه فقط اتوماتیک؟

وجود دارد بوده بسیاری مختلف تلاش به تعريف كردن خودمختاریاما همه اینها مشترکا دارند: سیستم های مستقل می توانند تصمیمات و طرح های خود را (اساسی) و به طوری که می توانند متفاوت از آنچه انتظار می رود عمل کنند.

در واقع، یکی از دلایل استفاده از خودمختاری (به عنوان متمایز از اتوماسیون) دقیقا همان چیزی است که این سیستم ها می توانند دوره های غیر منتظره و شگفت انگیز، هرچند قابل توجیه را دنبال کنند. مثلا، AlphaGo DeepMind برنده بازی دوم سری جدید Go خود را در مقابل لی Sedol بخشی به دلیل یک حرکتی که هیچ بازیکن انسانی نمی تواند انجام دهد، اما با این وجود حرکت درست بود. اما همین شگفتی ها ایجاد اعتماد مبتنی بر پیش بینی پذیری را دشوار می سازد. اعتماد قوی براساس صرفا براساس پیش بینی بودن تنها برای سیستم های خودکار یا اتوماتیک امکان پذیر است، دقیقا به این دلیل که آنها قابل پیش بینی هستند (فرض بر این که سیستم به طور معمول عمل می کند).

غافلگیر شدن

البته، افراد دیگر اغلب ما را متعجب می کنند، و در عین حال می توانیم آنها را به درجه قابل توجهی اطمینان دهیم، حتی به آنها قدرت زندگی و مرگ را بر خودمان تحمیل می کنیم. سربازان به رفقای خود در محیط های پیچیده و خصمانه اعتماد دارند؛ یک بیمار به جراح خود اعتقاد دارد که تومور را از بین ببرد. و در یک ورشکستگی عجیب و غریب، همسر من به من اعتماد می کند تا با خیال راحت رانندگی کنم. این اعتماد بین فردی ما را قادر می سازد تا شگفتی ها را بپذیریم، بنابراین شاید بتوانیم چیزی شبیه اعتماد بین فردی به ماشین های خود رانندگی ایجاد کنیم؟

به طور کلی، اعتماد بین فردی نیاز به فهمیدن اینکه چرا کسی به روش خاصی عمل کرد، حتی اگر شما نمی توانید تصمیم دقیق را پیش بینی کنید. همسر من ممکن است دقیقا بداند که چگونه من رانندگی خواهم کرد، اما او از نوع استدلالی که من در هنگام رانندگی استفاده می کنم می دانم. و در واقع نسبتا آسان است که بدانیم که چرا شخص دیگری کاری را انجام می دهد، دقیقا به این دلیل که همه ما فکر و ذهن را تقریبا مشابه، با وجود "مواد خام" متفاوت - باورها، خواسته ها و تجربیات ما.

در حقیقت، ما به طور مداوم و ناآگاهانه بر باورها و خواسته های دیگران بر اساس اعمالشان، به طور عمده با فرض اینکه فکر می کنیم، دلیل و تقریبا همان کاری را انجام می دهیم، نتیجه گیری می کنیم. تمام این نکات و استدلال مبتنی بر شناخت مشترک ما (انسان) ما را قادر می سازد تا دلایل دیگران را درک کنیم و در نتیجه ایجاد اعتماد بین فردی در طول زمان.

فکر می کنم مثل مردم؟

تکنولوژی های خودمختار - به ویژه اتومبیل های خود رانندگی - فکر نمی کنم و مردم را تصمیم بگیرند. تلاش های هر دو صورت گرفته است گذشته و اخیر، برای توسعه سیستم های کامپیوتری که فکر و ذکرمن انسان هستند. با این حال، یکی از موضوعات مطرح شده در یادگیری ماشین در طول دو دهه گذشته، دستاوردهای بسیار بزرگی بوده است که نیازی به سیستم های هوش مصنوعی ما برای انجام کارهایی مانند روش های انسانی نیست. در عوض، الگوریتم های یادگیری ماشین و سیستم هایی مانند AlphaGo اغلب قادر به آن هستند از کارشناسان انسانی بهتر است با تمرکز بر مشکلات خاص و محلی، و سپس حل آنها کاملا متفاوت از انسان انجام دهد.

در نتیجه، تلاش برای تفسیر یک تکنولوژی مستقل از نظر عقاید و خواسته های انسانی می تواند به طور چشمگیری چشمگیر باشد. هنگامی که یک راننده انسان یک توپ را در جاده می بیند، بسیاری از ما به طور خودکار به طور قابل توجهی کاهش می یابد، برای جلوگیری از ضربه زدن به یک کودک که ممکن است پس از آن تعقیب شود. اگر ما در یک ماشین مستقل سوار می شویم و رول توپ را به خیابان می ریزیم، انتظار داریم ماشین آن را تشخیص دهد و آماده باشد تا برای بچه ها را متوقف کند. با این حال، ماشین ممکن است تنها مانعی برای اجتناب از آن باشد. اگر بدون تسریع شدن، انسانها در هیئت مدیره آزار دهنده باشند - و بچه ممکن است در خطر باشد.

نکته های ما در مورد "باورها" و "خواسته ها" یک ماشین خودکار، تقریبا قطعا در راه های مهم اشتباه است، دقیقا به این دلیل که ماشین هیچ اعتقادات و خواسته های انسانی ندارد. ما نمی توانیم اعتماد بین فردی را به وسیله ی تماشای آن درایو ایجاد کنیم، چرا که ما نخواهیم توانست به درستی نتیجه ی اقدامات خود را بیابیم.

البته، مشتریان جامعه یا بازار می توانند به طور گسترده ای اصرار داشته باشند که اتومبیل های خود ران دارای ویژگی های روانی مانند انسان هستند، به طوری که ما می توانیم درک و ایجاد اعتماد بین فردی به آنها داشته باشیم. این استراتژی معنای کاملا جدیدی به "طراحی محور انسان، "از آنجا که سیستم ها به طور خاص طراحی شده اند، بنابراین اقدامات آنها توسط انسان قابل تفسیر است. اما این نیز شامل رمان است الگوریتم و تکنیک در ماشین خود رانندگی، که همه آنها را تغییرات گسترده ای از استراتژی های تحقیق و توسعه فعلی برای ماشین های خود رانندگی و دیگر فناوری های خودمختار را نشان می دهد.

اتومبیل های خود رانندگی توان بالایی دارند تا زیرساخت های حمل و نقل ما را در بسیاری از موارد سودمند تغییر دهند، اما تنها اگر بتوانیم آنها را به اندازه کافی به آنها اعتماد کنیم تا از آنها استفاده کنیم. به طرز عجیب و غریب، این ویژگی که باعث می شود اتومبیل های خود رانندگی ارزشمند باشند - تصمیم گیری انعطاف پذیر و مستقل خود را در شرایط مختلف - دقیقا همان چیزی است که به آنها اعتماد می کند.

گفتگو

authirhere

دیوید دانس، استاد فلسفه و روانشناسی، دانشگاه کارنگی ملون

این مقاله در اصل در تاریخ منتشر شد گفتگو. دفعات بازدید: مقاله.

کتاب های مرتبط:

at InnerSelf Market و آمازون