ناپلئون می توانست از گذشته درس بگیرد. نقاشی آدولف نورتن/ویکی پدیا

این یک کلیشه است که ندانستن تاریخ باعث تکرار آن می شود. همانطور که بسیاری از مردم نیز اشاره کرده اند، تنها چیزی که از تاریخ می آموزیم این است که به ندرت چیزی از تاریخ یاد می گیریم. مردم درگیر می شوند جنگ های زمینی در آسیا دوباره و دوباره. آنها همچنین همان اشتباهات دوستیابی را بارها و بارها تکرار می کنند. اما چرا این اتفاق می افتد؟ و آیا فناوری به آن پایان خواهد داد؟

یک مسئله فراموشی است ونزدیک بینی”: ما نمی بینیم که چگونه رویدادهای گذشته با رویدادهای فعلی مرتبط هستند، با نادیده گرفتن الگوی آشکار. ناپلئون باید متوجه شباهت‌های راهپیمایی او به مسکو و پادشاه سوئد می‌شد تلاش ناموفق چارلز دوازدهم برای انجام همین کار تقریبا یک قرن قبل از او

ما هم هستیم بد در یادگیری وقتی همه چیز بد پیش می رود به جای تعیین اینکه چرا یک تصمیم اشتباه بوده و چگونه از تکرار آن جلوگیری کنیم، اغلب سعی می کنیم چرخش شرم آور وقایع را نادیده بگیریم. این بدان معناست که دفعه بعد که موقعیت مشابهی پیش می آید، شباهتی را نمی بینیم - و اشتباه را تکرار می کنیم.

هر دو مشکلات اطلاعات را نشان می دهند. در مورد اول، ما اطلاعات شخصی یا تاریخی را به خاطر نمی آوریم. در مرحله دوم، زمانی که اطلاعات در دسترس است، قادر به رمزگذاری اطلاعات نیستیم.

گفته می‌شود، زمانی که نمی‌توانیم به طور کارآمد چیزی را که قرار است اتفاق بیفتد، استنباط کنیم، اشتباه می‌کنیم. شاید شرایط خیلی پیچیده یا وقت گیر باشد که بتوان به آن فکر کرد. یا ما تعصب داریم که آنچه را که در جریان است تفسیر کنیم.

قدرت آزاردهنده تکنولوژی

اما مطمئناً فناوری می تواند به ما کمک کند؟ اکنون می‌توانیم اطلاعات را در خارج از مغزمان ذخیره کنیم و از رایانه برای بازیابی آنها استفاده کنیم. این باید یادگیری و به خاطر سپردن را آسان کند، درست است؟

ذخیره سازی اطلاعات زمانی مفید است که بتوان آنها را به خوبی بازیابی کرد. اما به خاطر سپردن با بازیابی یک فایل از یک مکان یا تاریخ مشخص یکسان نیست. یادآوری شامل تشخیص شباهت ها و یادآوری چیزها به ذهن است.

یک هوش مصنوعی (AI) همچنین باید بتواند به طور خود به خود شباهت هایی را به ذهن ما بیاورد - اغلب شباهت های ناخواسته. اما اگر در تشخیص شباهت‌های احتمالی خوب باشد (بالاخره، می‌تواند تمام اینترنت و تمام داده‌های شخصی ما را جستجو کند) اغلب متوجه موارد نادرست نیز می‌شود.

برای قرارهای ناموفق، ممکن است توجه داشته باشید که همه آنها شامل شام بودند. اما هرگز مشکل غذاخوری نبود. و این یک تصادف محض بود که لاله ها روی میز بودند - دلیلی برای اجتناب از آنها نیست. ما اغلب اشتباهات دوستیابی را تکرار می کنیم. 

این بدان معناست که به ما در مورد چیزهایی که به آنها اهمیت نمی‌دهیم هشدار می‌دهد، احتمالاً به روشی آزاردهنده. کاهش حساسیت آن به معنای افزایش خطر عدم دریافت هشدار در صورت نیاز است.

این یک مشکل اساسی است و به همان اندازه برای هر مشاوری صدق می کند: مشاور محتاط اغلب گریه می کند، مشاور خوش بین خطرات را از دست می دهد.

یک مشاور خوب کسی است که ما به آن اعتماد داریم. آنها تقریباً همان سطح احتیاط ما را دارند و می دانیم که می دانند ما چه می خواهیم. یافتن این مورد در یک مشاور انسانی و حتی بیشتر در یک هوش مصنوعی دشوار است.

فناوری کجا جلوی اشتباهات را می گیرد؟ ضد ابلهان کار می کند. ماشین‌های برش از شما می‌خواهند که دکمه‌ها را پایین نگه دارید و دست‌هایتان را از تیغه‌ها دور نگه دارید. در صورت ناتوانی اپراتور، یک "سوئیچ مرد مرده" دستگاه را متوقف می کند.

اجاق های مایکروویو با باز شدن در، تشعشعات را خاموش می کنند. برای پرتاب موشک، دو نفر باید کلیدها را به طور همزمان در یک اتاق بچرخانند. در اینجا، طراحی دقیق، اشتباهات را سخت می کند. اما ما به اندازه کافی به موقعیت‌های کمتر مهم اهمیت نمی‌دهیم، و باعث می‌شود طراحی در آنجا به مراتب کمتر ضد احمق باشد.

هنگامی که فناوری به خوبی کار می کند، ما اغلب به آن بیش از حد اعتماد می کنیم. خلبانان خطوط هوایی به دلیل کارایی شگفت انگیز سیستم های خلبان خودکار، ساعات پرواز واقعی کمتری نسبت به گذشته دارند. زمانی که خلبان خودکار از کار بیفتد، این خبر بدی است و خلبان تجربه کمتری برای اصلاح وضعیت دارد.

اول از a سکوی نفتی نژاد جدید (Sleipnir A) غرق شد زیرا مهندسان به محاسبه نرم افزاری نیروهای وارد بر آن اعتماد داشتند. مدل اشتباه بود، اما نتایج را به گونه ای قانع کننده ارائه کرد که قابل اعتماد به نظر می رسید.

بسیاری از فناوری ما به طرز شگفت انگیزی قابل اعتماد است. به عنوان مثال، ما متوجه نمی‌شویم که چگونه بسته‌های داده گمشده در اینترنت به طور مداوم در پشت صحنه پیدا می‌شوند، چگونه کدهای تصحیح خطا نویز را حذف می‌کنند یا چگونه فیوزها و افزونگی باعث ایمن شدن دستگاه‌ها می‌شوند.

اما وقتی پیچیدگی را در سطوح مختلف جمع می کنیم، بسیار غیر قابل اعتماد به نظر می رسد. زمانی که ویدیوی Zoom عقب می افتد، برنامه هوش مصنوعی اشتباه پاسخ می دهد یا کامپیوتر از کار می افتد، متوجه می شویم. با این حال از هر کسی که 50 سال پیش از کامپیوتر یا ماشین استفاده می‌کرده بپرسید که واقعاً چگونه کار می‌کردند، و متوجه خواهید شد که هم توانایی کمتری داشتند و هم کمتر قابل اعتماد بودند.

ما فناوری را پیچیده تر می کنیم تا زمانی که استفاده از آن بسیار آزاردهنده یا ناامن شود. همانطور که قطعات بهتر و قابل اطمینان تر می شوند، ما اغلب به جای اینکه به آنچه کار می کند، ویژگی های جدید هیجان انگیز و مفید اضافه کنیم. این در نهایت باعث می شود که فناوری کمتر از آنچه می تواند باشد قابل اعتماد باشد.

اشتباهاتی صورت خواهد گرفت

به همین دلیل است که هوش مصنوعی یک شمشیر دولبه برای جلوگیری از اشتباهات است. اتوماسیون معمولاً کارها را ایمن‌تر و کارآمدتر می‌کند، اما وقتی با شکست مواجه می‌شود، مشکل را بسیار بزرگ‌تر می‌کند. خودمختاری به این معنی است که نرم افزار هوشمند می تواند تفکر ما را تکمیل کند و ما را تخلیه کند، اما زمانی که آنطور که ما می خواهیم فکر نمی کند، ممکن است بد رفتار کند.

هرچه پیچیده تر باشد، اشتباهات می تواند خارق العاده تر باشد. هرکسی که با دانشمندان بسیار باهوش سروکار داشته باشد، می‌داند که وقتی عقل سلیم آنها را از بین می‌برد، چقدر خوب می‌توانند با نبوغ زیادی اوضاع را به هم بریزند – و هوش مصنوعی عقل سلیم انسانی بسیار کمی دارد.

این نیز دلیل عمیقی برای نگرانی در مورد هدایت تصمیم‌گیری هوش مصنوعی است: آنها انواع جدیدی از اشتباهات را مرتکب می شوند. ما انسان ها اشتباهات انسانی را می دانیم، یعنی می توانیم مراقب آنها باشیم. ولی ماشین‌های هوشمند می‌توانند اشتباهاتی مرتکب شوند که ما هرگز نمی‌توانیم تصور کنیم.

علاوه بر این، سیستم‌های هوش مصنوعی توسط انسان برنامه‌ریزی و آموزش داده می‌شوند. و نمونه های زیادی از این سیستم ها وجود دارد مغرضانه و حتی متعصب شدن. آنها تعصبات را تقلید می کنند و اشتباهات دنیای انسانی را تکرار می کنند، حتی زمانی که افراد درگیر به صراحت سعی می کنند از آنها اجتناب کنند.

در نهایت، اشتباهات به وقوع خواهند پیوست. دلایل اساسی وجود دارد که چرا ما در مورد جهان اشتباه می کنیم، چرا همه چیزهایی را که باید به خاطر نمی آوریم، و چرا فناوری ما نمی تواند به ما کمک کند تا از مشکلات اجتناب کنیم.

اما می توانیم برای کاهش عواقب اشتباهات تلاش کنیم. دکمه لغو و ذخیره خودکار اسناد بی شماری را در رایانه های ما ذخیره کرده است. بنای یادبود در لندن, سنگ های سونامی در ژاپن و سایر بناهای تاریخی، خطرات خاصی را به ما یادآوری می کنند. شیوه های طراحی خوب زندگی ما را ایمن تر می کند.

در نهایت می توان از تاریخ چیزی آموخت. هدف ما باید زنده ماندن و درس گرفتن از اشتباهاتمان باشد نه اینکه از وقوع آنها جلوگیری کنیم. فناوری می‌تواند در این زمینه به ما کمک کند، اما ما باید به دقت در مورد آنچه واقعاً از آن می‌خواهیم فکر کنیم - و بر اساس آن طراحی کنیم.

درباره نویسنده

آندرس سندبرگ، محقق جیمز مارتین، موسسه آینده بشریت و مدرسه مارتین آکسفورد، دانشگاه آکسفورد

این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.