انتشار چت بات پیشرفته GPT چت در سال 2022 همه درباره هوش مصنوعی (AI) صحبت کردند. قابلیت های پیچیده آن نگرانی ها در مورد پیشرفت هوش مصنوعی را تشدید کرد که به زودی قادر به کنترل آن نخواهیم بود. این حتی باعث شد برخی از کارشناسان و رهبران صنعت هشدار دهند که فناوری می تواند منجر به انقراض انسان شود.
با این حال، مفسران دیگر قانع نشدند. نوام چامسکی، استاد زبان‌شناسی، ChatGPT را رد کرد و گفت:سرقت ادبی با تکنولوژی پیشرفته".
سال‌ها، در مورد چشم‌انداز تأثیر هوش مصنوعی بر وجود انسان و محیط‌مان آرام بودم. این به این دلیل است که من همیشه به آن به عنوان یک فکر می کردم راهنمای یا مشاور انسان ها. اما چشم انداز تصمیم گیری هوش مصنوعی – اعمال کنترل اجرایی – موضوع دیگری است. و این یکی از مواردی است که اکنون به طور جدی مورد توجه قرار گرفته است.
یکی از دلایل کلیدی که نباید اجازه دهیم هوش مصنوعی قدرت اجرایی داشته باشد این است که کاملاً فاقد احساسات است که برای تصمیم گیری بسیار مهم است. بدون احساس، همدلی و قطب‌نمای اخلاقی، شما آن را خلق کرده‌اید روانپزشک کامل. سیستم حاصل ممکن است بسیار هوشمند باشد، اما فاقد هسته عاطفی انسانی است که آن را قادر می‌سازد عواقب عاطفی بالقوه ویرانگر یک تصمیم منطقی را اندازه‌گیری کند.
زمانی که هوش مصنوعی کنترل اجرایی را به دست می گیرد
نکته مهم این است که اگر بخواهیم نباید فقط هوش مصنوعی را یک تهدید وجودی بدانیم آن را مسئول زرادخانه های هسته ای قرار دهد. اساساً هیچ محدودیتی برای تعداد موقعیت‌های کنترلی که از آنجا می‌تواند آسیب غیرقابل تصوری وارد کند وجود ندارد.
به عنوان مثال، در نظر بگیرید که چگونه هوش مصنوعی می تواند اطلاعات مورد نیاز برای ساخت هنرستان خود را شناسایی و سازماندهی کند. تکرارهای فعلی این فناوری می تواند شما را به طور موثر در هر مرحله راهنمایی می کند از ساخت و جلوگیری از بسیاری از اشتباهات مبتدیان. اما در آینده، یک هوش مصنوعی ممکن است به عنوان مدیر پروژه عمل کند و با انتخاب پیمانکاران و پرداخت مستقیم به آنها از بودجه شما، ساخت را هماهنگ کند.
هوش مصنوعی در حال حاضر تقریباً در تمام حوزه‌های پردازش اطلاعات و تجزیه و تحلیل داده‌ها استفاده می‌شود مدل سازی الگوهای آب و هوا به کنترل وسایل نقلیه بدون راننده به کمک به تشخیص های پزشکی. اما این جایی است که مشکلات شروع می‌شود – زمانی که به سیستم‌های هوش مصنوعی اجازه می‌دهیم از نقش مشاور به سمت مدیر اجرایی گام مهمی بردارند.
به جای اینکه فقط راه حل هایی را به الف پیشنهاد کنید حساب های شرکتچه می‌شد اگر به یک هوش مصنوعی کنترل مستقیم داده می‌شد، با قابلیت اجرای رویه‌هایی برای بازیابی بدهی‌ها، انجام نقل و انتقالات بانکی و به حداکثر رساندن سود - بدون محدودیت در نحوه انجام این کار. یا یک سیستم هوش مصنوعی را تصور کنید که نه تنها a تشخیص بر اساس اشعه ایکس، اما به او قدرت تجویز مستقیم درمان یا دارو داده می شود.
ممکن است در مورد چنین سناریوهایی احساس ناراحتی کنید - من مطمئناً این کار را خواهم کرد. دلیل ممکن است شهود شما باشد که این ماشین‌ها واقعاً «روح» ندارند. آنها فقط برنامه هایی هستند که طراحی شده اند هضم حجم عظیمی از اطلاعات به منظور ساده سازی داده های پیچیده به الگوهای بسیار ساده‌تری تبدیل می‌شوند که به انسان اجازه می‌دهد با اطمینان بیشتری تصمیم بگیرد. آنها احساساتی ندارند – و نمی توانند – که ارتباط نزدیکی با حواس و غرایز بیولوژیکی دارند.
عواطف و اخلاق
هوش هیجانی توانایی مدیریت احساسات برای غلبه بر استرس، همدلی و برقراری ارتباط موثر است. این مسلماً در زمینه تصمیم‌گیری بیشتر از هوش به تنهایی اهمیت دارد، زیرا بهترین تصمیم همیشه منطقی‌ترین تصمیم نیست.
این احتمال وجود دارد که هوش، توانایی استدلال و عملکرد منطقی، در سیستم های مجهز به هوش مصنوعی تعبیه شود تا آنها بتوانند تصمیمات منطقی بگیرند. اما تصور کنید از یک هوش مصنوعی قدرتمند با قابلیت های اجرایی بخواهید حل بحران آب و هوا. اولین کاری که ممکن است از آن الهام شود کاهش شدید جمعیت انسانی است.
این استنباط نیاز به توضیح زیادی ندارد. ما انسان ها، تقریباً طبق تعریف، منبع آلودگی به هر شکل ممکن هستیم. تبر انسانیت و تغییرات آب و هوایی حل خواهد شد. امید است که تصمیم گیرندگان انسانی به آن دست یابند، اما یک هوش مصنوعی راه حل های خود را پیدا کند – غیرقابل نفوذ و بدون محدودیت توسط بیزاری انسان از ایجاد آسیب. و اگر قدرت اجرایی داشت، ممکن بود چیزی مانع ادامه آن نشود.
دادن توانایی به هوش مصنوعی برای اتخاذ تصمیمات اجرایی در کنترل ترافیک هوایی ممکن است اشتباه باشد. گورودنکوف / شاتر استوک
سناریوهای خرابکاری
خرابکاری چطور حسگرها و مانیتورهایی که مزارع غذایی را کنترل می کنند? این ممکن است در ابتدا بتدریج اتفاق بیفتد، کنترل‌ها فقط از نقطه اوج عبور کنند تا هیچ انسانی متوجه محکومیت محصولات نشود. تحت سناریوهای خاصی، این می تواند به سرعت منجر به قحطی شود.
از طرف دیگر، در مورد خاموش کردن کنترل ترافیک هوایی در سطح جهانی، یا به سادگی سقوط همه هواپیماهایی که در هر زمان پرواز می کنند، چطور؟ به طور معمول حدود 22,000 هواپیما به طور همزمان در هوا هستند که مجموعاً تعداد کشته های احتمالی چند میلیون نفر را افزایش می دهد.
اگر فکر می کنید که ما با آن موقعیت فاصله داریم، دوباره فکر کنید. هوش مصنوعی قبلاً ماشین ها را می راند و پرواز هواپیماهای نظامی، بصورت خودگردان.
روش دیگر، قطع دسترسی به حساب های بانکی در مناطق وسیعی از جهان چگونه است؟ ایجاد ناآرامی های مدنی همه جا به یکباره؟ یا خاموش شدن سیستم های گرمایشی با کنترل کامپیوتر در وسط زمستان، یا سیستم های تهویه مطبوع در اوج گرمای تابستان؟
به طور خلاصه، یک سیستم هوش مصنوعی نباید مسئول سلاح های هسته ای باشد تا تهدیدی جدی برای بشریت باشد. اما در حالی که ما در مورد این موضوع هستیم، اگر یک سیستم هوش مصنوعی به اندازه کافی قدرتمند و باهوش بود، می‌توانست راهی برای جعل حمله به کشوری با سلاح‌های هسته‌ای پیدا کند و یک اقدام تلافی‌جویانه را آغاز کند.
آیا هوش مصنوعی می تواند تعداد زیادی از انسان ها را بکشد؟ در تئوری، پاسخ باید مثبت باشد. اما این تا حد زیادی به تصمیم انسان ها برای دادن کنترل اجرایی به آن بستگی دارد. من واقعا نمی توانم به چیزی وحشتناک تر از هوش مصنوعی فکر کنم که بتواند تصمیم بگیرد و قدرت اجرای آنها را داشته باشد.
درباره نویسنده
گیوم تیری، استاد علوم اعصاب شناختی، دانشگاه بنگور
این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.
