مورخان آینده ممکن است سال 2023 را نقطه عطفی در ظهور هوش مصنوعی (AI) بدانند. اما آیا این آینده ثابت خواهد شد تخیلی, آخرالزمانی or جایی در میان حدس هر کسی است
در ماه فوریه، ChatGPT رکورد سریع‌ترین اپلیکیشنی را ثبت کرد 100 میلیون کاربر. به دنبال آن مدل‌های هوش مصنوعی «زبان بزرگ» مشابهی از گوگل، آمازون، متا و سایر شرکت‌های بزرگ فناوری، که در مجموع آماده تغییر آموزش، مراقبت‌های بهداشتی و بسیاری از زمینه‌های دانش‌بردار دیگر هستند، دنبال شد.
با این حال، پتانسیل هوش مصنوعی برای آسیب در ماه مه توسط یک مورد تاکید شد بیانیه شوم امضا شده توسط محققان برجسته:
کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند بیماری های همه گیر و جنگ هسته ای یک اولویت جهانی باشد.
در ماه نوامبر، در پاسخ به نگرانی فزاینده در مورد خطر هوش مصنوعی، 27 کشور (از جمله بریتانیا، ایالات متحده، هند، چین و اتحادیه اروپا) در افتتاحیه اجلاس ایمنی هوش مصنوعی در بلچلی پارک در انگلستان، تعهد همکاری دادند تا از توسعه ایمن هوش مصنوعی اطمینان حاصل کنند. برای بهره از همه.
برای دستیابی به این هدف، محققان بر روی تراز هوش مصنوعی – یعنی چگونه می توان مطمئن شد که مدل های هوش مصنوعی با ارزش ها، اولویت ها و اهداف انسانی سازگار است. اما یک مشکل وجود دارد - هوش مصنوعی به اصطلاح "راز تاریک”: مدل های بزرگ آنقدر پیچیده هستند که مانند جعبه سیاه هستند و درک کامل آن برای کسی غیرممکن است.
مشکل جعبه سیاه هوش مصنوعی
اگرچه شفافیت و توضیح پذیری سیستم های هوش مصنوعی است اهداف مهم پژوهشیبعید به نظر می‌رسد که چنین تلاش‌هایی با سرعت هولناک نوآوری همگام شوند.
استعاره جعبه سیاه توضیح می دهد که چرا باورهای مردم در مورد هوش مصنوعی در سراسر نقشه وجود دارد. پیش‌بینی‌ها از اتوپیا تا انقراض را در بر می‌گیرد و حتی بسیاری بر این باورند که هوش عمومی مصنوعی (AGI) به زودی خواهد بود رسیدن به احساس.
اما این عدم قطعیت مشکل را تشدید می کند. همسویی هوش مصنوعی باید یک خیابان دو طرفه باشد: ما نه تنها باید اطمینان حاصل کنیم که مدل‌های هوش مصنوعی با نیات انسان سازگار هستند، بلکه باید اطمینان حاصل کنیم که باورهای ما در مورد هوش مصنوعی نیز دقیق هستند.
این به این دلیل است که ما به طرز چشمگیری در ایجاد آینده‌هایی که با آن باورها مطابقت دارد، مهارت داریم، حتی اگر از آنها بی‌اطلاع باشیم.
باصطلاح "اثرات انتظار"، یا پیشگویی های خودشکوفایی، در روانشناسی به خوبی شناخته شده است. و تحقیقات نشان داده است که دستکاری باورهای کاربران نه تنها بر نحوه آنها تأثیر می گذارد تعامل با هوش مصنوعی، اما چگونه AI با کاربر سازگار می شود.
به عبارت دیگر، اینکه چگونه باورهای ما (خودآگاه یا ناخودآگاه) بر هوش مصنوعی تأثیر می‌گذارد، می‌تواند احتمال هر نتیجه‌ای، از جمله نتایج فاجعه‌بار را افزایش دهد.
هوش مصنوعی، محاسبات، منطق و محاسبات
برای درک اساس هوش مصنوعی باید عمیق‌تر کاوش کنیم - مانند آلیس در سرزمین عجایب، از سوراخ خرگوش به پایین بروید و ببینید که ما را به کجا می‌برد.
اول اینکه هوش مصنوعی چیست؟ بر روی کامپیوترها اجرا می شود و محاسبات خودکار نیز همینطور است. از منشا آن به عنوان "پرسپترون- یک نورون مصنوعی که در سال 1943 توسط نوروفیزیولوژیست به صورت ریاضی تعریف شد وارن مک کالوچ و منطق دان والتر پیتس – هوش مصنوعی با علوم شناختی، علوم اعصاب و علوم کامپیوتر در هم تنیده شده است.
این همگرایی از ذهن, مغز و ماشین آلات به این باور عمومی منتهی شده است که چون هوش مصنوعی توسط ماشین محاسبه می شود، پس هوش طبیعی (ذهن) باید توسط مغز محاسبه شود.
اما محاسبات چیست؟ در اواخر قرن 19، ریاضیدانان ریچارد ددکیند و جوزپه پیانو مجموعه ای از بدیهیات را پیشنهاد کرد که حساب را بر حسب منطق تعریف می کند، و تلاش های الهام گرفته ای برای پایه گذاری تمام ریاضیات بر روی یک امن است مبنای رسمی.
اگرچه منطق دان کورت گودل بعدها ثابت کرد که این هدف بوده است دست نیافتنی، کار او نقطه آغازی برای ریاضیدان (و رمز شکن) بود. آلن تورینگ. خود "دستگاه تورینگ"، یک دستگاه انتزاعی قادر به محاسبه جهانی، پایه و اساس علم کامپیوتر است.
ساختار عمیق ادراک
بنابراین، محاسبات مبتنی بر ایده‌های ریاضی است که به تلاش‌ها برای تعریف حساب در منطق بازمی‌گردد. اما دانش ما از حساب وجود دارد قبل از منطق. اگر بخواهیم اساس هوش مصنوعی را بفهمیم، باید جلوتر برویم و بپرسیم که خود حساب از کجا آمده است.
من و همکارانم اخیراً نشان داده ایم که محاسبات بر اساس "ساختار عمیق” از ادراک. این ساختار مانند عینک های رنگی است که ادراک ما را به روش های خاصی شکل می دهد، به طوری که تجربه ما از جهان منظم و قابل کنترل باشد.
حساب شامل مجموعه‌ای از عناصر (اعداد) و عملیات (جمع، ضرب) است که جفت‌های عنصر را با هم ترکیب می‌کنند و عنصر دیگری را به دست می‌دهند. پرسیدیم: از همه احتمالات، چرا اعداد عنصر هستند و جمع و ضرب عملیات؟
نشان دادیم توسط اثبات ریاضی زمانی که ساختار عمیق ادراک برای محدود کردن احتمالات فرض شد، حساب نتیجه می‌شد. به عبارت دیگر، وقتی ذهن ما جهان انتزاعی را از طریق همان «عینک های رنگی» که تجربه ما از جهان فیزیکی را شکل می دهد، می بیند، اعداد و محاسبات را «می بیند».
از آنجا که حساب پایه ریاضیات است، مفهوم این است که ریاضیات بازتابی از ذهن است - بیانی در نمادهایی از ماهیت اساسی و خلاقیت آن.
اگرچه ساختار عمیق ادراک با حیوانات دیگر مشترک است و بنابراین محصول تکامل است، اما فقط انسان ها ریاضیات را اختراع کرده اند. این صمیمی ترین ساخته ما است - و با فعال کردن توسعه هوش مصنوعی، شاید مهم ترین آنها.
انقلاب ذهنی کوپرنیکی
حساب ما از منشاء حساب با دیدگاه های امانوئل کانت فیلسوف قرن هجدهم مطابقت دارد. به گفته او، دانش ما از جهان بر اساس «شهودهای ناب» فضا و زمان که قبل از تجربه حسی وجود دارد، ساخته شده است - مشابه عینک های رنگی که هرگز نمی توانیم آنها را برداریم.
کانت ادعای خود را کرد فلسفه "انقلاب ذهن کوپرنیکی" بود. کانت استدلال می‌کرد که به همان روشی که ستاره‌شناسان باستانی معتقد بودند خورشید به دور زمین می‌چرخد، زیرا از حرکت زمین بی‌اطلاع بودند، فیلسوفانی که معتقد بودند تمام دانش از حرکت زمین گرفته شده است. تجربه حسی (به عنوان مثال، جان لاک و دیوید هیوم) به چگونگی شکل دادن ذهن به ادراک توجه نکردند.
اگرچه دیدگاه های کانت توسط علوم طبیعی زمان خود، ثابت کرده اند تاثیرگذار در روانشناسی معاصر.
تشخیص اینکه حساب الف است نتیجه طبیعی ادراک ماو بنابراین مبتنی بر بیولوژیک، تغییر کانتی مشابهی را در درک ما از محاسبات نشان می دهد.
محاسبات در قلمروی انتزاعی از حقیقت ریاضی «خارج» یا جدا از ما نیست، بلکه در طبیعت ذهن ما ذاتی است. ذهن چیزی بیش از محاسبه است. مغز کامپیوتر نیست در عوض، محاسبات - مبنای هوش مصنوعی - مانند ریاضیات، بیان نمادین ماهیت و خلاقیت ذهن است.
آتش پرومته
پیامدهای هوش مصنوعی چیست؟ اولاً، هوش مصنوعی یک ذهن نیست و هرگز حساس نخواهد شد. این ایده که ما می توانیم از طبیعت بیولوژیکی خود فراتر برویم و با بارگذاری ذهن خود در ابر به جاودانگی دست یابیم فقط فانتزی.
با این حال، اگر اصول ذهنی که مبتنی بر هوش مصنوعی است توسط تمام بشریت (و احتمالاً سایر موجودات زنده نیز) مشترک باشد، ممکن است بتوان از محدودیت‌های ذهن فردی ما فراتر رفت.
از آنجایی که محاسبات جهانی است، ما آزاد هستیم تا هر نتیجه ای را که انتخاب می کنیم در دنیای مجازی و فیزیکی به طور فزاینده ای شبیه سازی کنیم و ایجاد کنیم. به این ترتیب، هوش مصنوعی واقعاً ماست آتش پرومته، هدیه ای به بشریت که از خدایان ربوده شده است اساطیر یونانی.
به عنوان یک تمدن جهانی، احتمالاً در نقطه عطفی قرار داریم. هوش مصنوعی حساس نمی شود و تصمیم نمی گیرد همه ما را بکش. اما ما بسیار قادر هستیم که خود را با آن "آخرالزمان" کنیم - انتظار می تواند واقعیت را ایجاد کند.
تلاش برای اطمینان از همسویی، ایمنی و امنیت هوش مصنوعی بسیار مهم است، اما اگر آگاهی و خرد جمعی نداشته باشیم ممکن است کافی نباشد. مانند آلیس، ما باید از رویا بیدار شویم و واقعیت و قدرت ذهن خود را بشناسیم.
راندولف گریس، استاد روانشناسی، Университет Кентербери
این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.
