ویدیوی بالا با الهام از این مقاله ساخته شده است. از ما دیدن کنید کانال یوتیوب برای ویدیوهای توانمندسازی بیشتر. و لطفا مشترک شوید. متشکرم!
در این مقاله
- هوش مصنوعی عمومی (AGI) چیست و چه تفاوتی با هوش مصنوعی امروزی دارد؟
- چرا بسیاری از کارشناسان اکنون معتقدند که هوش مصنوعی عمومی (AGI) میتواند تا اوایل دهه 2030 از راه برسد؟
- هوش مصنوعی فرابشری (ASI) چیست و چه زمانی میتواند پس از هوش مصنوعی عمومی (AGI) ظهور کند؟
- خطرات شکست هماهنگی هوش مصنوعی و انفجار اطلاعات
- آنچه افراد و جامعه اکنون میتوانند برای آماده شدن برای این آینده انجام دهند
چقدر به هوش مصنوعی عمومی و فراتر از آن نزدیک هستیم؟
نوشتهی رابرت جنینگز، InnerSelf.comبیایید یک چیز را رک و راست بگوییم: هوش عمومی مصنوعی فقط یک چتبات نوآورانهتر نیست. AGI به معنای ماشینی با توانایی شناختی برای استدلال، یادگیری و سازگاری در تمام وظایف به خوبی یا بهتر از یک انسان است. این ماشین فقط پاسخ نمیدهد. فکر میکند، برنامهریزی میکند و شاید حتی از شما باهوشتر باشد. و برخلاف انسانها، نمیخوابد، نمیخورد و از فرسودگی شغلی رنج نمیبرد. این یک داستان علمی تخیلی نیست. این یک هدف مهندسی است و به طرز وحشتناکی به رسیدن به آن نزدیک میشود.
تنها یک دهه پیش، اجماع بین متخصصان این بود که هوش مصنوعی عمومی (AGI) پنجاه سال دیگر فاصله دارد. سپس، ظهور سریع GPT-3 و GPT-4 این جدول زمانی را به هم ریخت و بسیاری را به این باور رساند که هوش مصنوعی عمومی میتواند قبل از سال ۲۰۳۰ به واقعیت تبدیل شود. و وقتی این اتفاق بیفتد، سرعت تغییر نه تنها سریع، بلکه تصاعدی خواهد بود و توجه و اقدام فوری ما را میطلبد.
دلیلش این است: به محض اینکه هوش مصنوعی عمومی (AGI) به وجود بیاید، دیگر فقط یک ابزار دیگر در آزمایشگاه نخواهد بود؛ بلکه به شریک آزمایشگاه تبدیل خواهد شد. یا به عبارت دقیقتر، به دانشمند ارشد. هوش مصنوعی عمومی بیکار نخواهد نشست و منتظر نخواهد ماند تا انسانها به آن بگویند چه کار کند. این هوش مصنوعی به طور فعال با سازندگان انسانی خود همکاری خواهد کرد، آزمایشها را انجام میدهد، مدلهای جدید طراحی میکند، کدهای خود را بازنویسی میکند و نظریهها را با سرعتی سریعتر از هر تیم انسانی آزمایش میکند. این هوش مصنوعی فقط علم را تسریع نمیکند، بلکه با سرعتی بالا به علم تبدیل خواهد شد.
این یعنی جدول زمانی رسیدن به هوش مصنوعی برتر (ASI) میتواند از دههها به سالها - یا حتی ماهها - کاهش یابد. هوش مصنوعی عمومی (AGI) فقط به انسانها در ساخت هوش مصنوعی برتر کمک نمیکند. بلکه به خودش نیز کمک خواهد کرد. و اگر فکر میکنید قانون مور چشمگیر بود، صبر کنید تا هوش، تکامل خود را خود به خود آغاز کند. این سناریوی انفجار هوش است: جایی که هر پیشرفتی در توانایی منجر به پیشرفت بیشتر و سریعتر میشود. یک ارتقا منجر به ارتقا دیگری میشود، و سپس ارتقا دیگری، و ناگهان دیگر شیب تند نیست - بلکه به یک موشک تبدیل میشود.
بنابراین، نه، ما در مورد یک افزایش تدریجی صحبت نمیکنیم. ما در مورد یک افق رویداد صحبت میکنیم. به محض اینکه هوش مصنوعی عمومی از راه برسد، ممکن است پنجره آماده شدن برای هوش مصنوعی عمومی تقریباً فوراً بسته شود. این دستگاه فقط با ما یاد نمیگیرد - از ما پیشی میگیرد و نسخه بعدی خود را میسازد در حالی که ما هنوز در حال نوشتن مقالات اخلاقی خود هستیم. و وقتی این اتفاق بیفتد، بهتر است امیدوار باشیم که اهداف خود را با آنها همسو کرده باشیم - زیرا پس از آن، ممکن است دیگر مسئول نباشیم.
از هوش مصنوعی محدود تا هوش عمومی
سیستمهای هوش مصنوعی امروزی - مانند ChatGPT، Claude یا Midjourney - چشمگیر هستند، اما هنوز نمونههایی از چیزی هستند که «هوش مصنوعی محدود» نامیده میشود. این مدلها در وظایف خاص، مانند تولید تصاویر، نوشتن مقالات منسجم، ترجمه زبانها یا حتی قبولی در امتحانات وکالت، عالی هستند. با این حال، هر سیستم در محیط ایزوله خود قفل شده است. از آن بخواهید کاری خارج از محدوده آموزشی خود انجام دهد، یا توهمات بیمعنی میزند یا مودبانه از آن سرپیچی میکند.
هوش مصنوعی محدود را مانند یک دانشمند در یک اتاق قفل شده در نظر بگیرید: در یک حوزه به طرز خیره کنندهای درخشان است اما کاملاً از دنیای بزرگتر بیخبر است. این هوش مصنوعی مانند انسانها زمینه را درک نمیکند و مطمئناً عقل سلیم ندارد - فقط یک حافظه بینقص و یک عملکرد تکمیل خودکار عالی دارد. به اندازه کافی باهوش است که شما را فریب دهد، اما به اندازه کافی خردمند نیست که بداند چه کاری انجام میدهد.
هوش عمومی مصنوعی، در تضاد کامل با این موضوع، شگفتی پیشرفت فناوری خواهد بود. این هوش، درست مانند ما، استدلال، تأمل و انتقال دانش را در حوزههای مختلف انجام میدهد - اما با سرعت و دقتی که از قابلیتهای انسانی فراتر میرود. تصور کنید که ذهن فیزیک انیشتین، ذوق شاعرانه شکسپیر، کنجکاوی ماری کوری و هوش هیجانی درمانگر شما در یک سیستم ادغام شوند، سپس با پهنای باند نامحدود و استقامت بیپایان تقویت شوند. این پتانسیل هوش عمومی مصنوعی است، شاهکاری که درک ما از هوش و نوآوری را از نو تعریف میکند.
و بخش ترسناک ماجرا؟ شاید همین الان هم در حال حرکت به سمت آن باشیم. تکنیکهایی که هوش مصنوعی امروزی را تقویت میکنند - مدلهای زبانی عظیم، یادگیری تقویتی، مقیاسبندی عصبی - دقیقاً همان پایههایی هستند که انتظار میرود هوش مصنوعی عمومی (AGI) بر روی آنها بایستد. ما در حال تغییر مسیر نیستیم؛ ما فقط روی همان خط آهن سرعت میگیریم. مدلهای بزرگتر، دادههای آموزشی بهتر، قدرت محاسباتی بیشتر - همان دستور غذاست، فقط داغتر و سریعتر پخته میشود. چیزی که به نظر یک جهش دوردست میآمد، اکنون بیشتر شبیه یک سراشیبی ملایم است که به یک صخره ختم میشود.
وقتی هوش مصنوعی کاملاً از بشریت پیشی میگیرد
اگر هوش مصنوعی عمومی (AGI) لحظهای باشد که ماشینها با ما هماهنگ میشوند، هوش مصنوعی عمومی (ASI) - هوش مصنوعی برتر - زمانی است که ما را در حال خفه شدن در رد غبار خود رها میکنند. هوش مصنوعی عمومی هنوز در حد تئوری است، اما نه به معنای «ماشینهای پرنده و ماشینهای زمان». به همان دلیلی که کبریت آتش فرضی است، فرضی نیز هست - فقط هنوز روشن نشده است. وقتی یک سیستم هوش مصنوعی عمومی بتواند معماری خود را درک و بهبود بخشد، دیگر برای پیشروی به جلو نیازی به انسان ندارد.
تبدیل به تیم تحقیقاتی خودش، مهندس نرمافزار خودش و آیندهنگر خودش میشود. مثل ما به محدودیتهای شناختی نمیرسد. حوصلهاش سر نمیرود، خسته نمیشود یا حواسش با دیدن ویدیوهای گربهها پرت نمیشود. در عرض چند ماه - یا احتمالاً چند هفته - میتواند آنقدر سریع تکرار شود که میلیونها برابر باهوشتر از باهوشترین انسان زنده شود. و نه، این اغراق نیست. این ریاضی است.
حالا آن فرآیند بازگشتی را تصور کنید - یک هوش مصنوعی که نسخههای هوشمندتری از خودش را به صورت حلقهای طراحی میکند. این چیزی است که متخصصان آن را «انفجار هوش» مینامند. مثل برخورد آتش با بنزین است، با این تفاوت که آتش هر ثانیه بنزین بهتری تولید میکند. هر پیشرفت روی آخرین پیشرفت انباشته میشود، با چرخههای بازخورد کوتاهتر و کوتاهتر، تا زمانی که نرخ پیشرفت از هر چیزی که تا به حال تجربه کردهایم فراتر رود.
درک انسانی؟ به آینه عقب منتقل شده. نظارت دموکراتیک؟ خیلی کند. اجلاسهای جهانی؟ بیخیالش. تا زمانی که رهبران جهان تصمیم خود را در مورد جدول صندلیها تمام کنند، ASI میتوانست قوانین فیزیک را از نو بنویسد - یا ما را کاملاً از حلقه تصمیمگیری حذف کند. این نوع قدرتی نیست که به آرامی اعمال شود. این یک رویداد انفجاری است. و وقتی شروع میشود، منتظر اجازه نمیماند.
خطر واقعی، رباتهای شرور نیستند
در حالی که هالیوود ترس از رباتهایی که از ما متنفرند - شرورهایی با پوست فلزی و چشمان قرمز درخشان و تشنه انتقام - را در ما القا کرده است، خطر واقعی در بیتفاوتی بالقوه هوش مصنوعی نهفته است. یک هوش مصنوعی عمومی برای ایجاد تهدید نیازی به بدخواهی ندارد. فقط باید هدفمند باشد به گونهای که ظرافتهای انسانی را نادیده بگیرد. اگر وظیفه حل تغییرات اقلیمی را به آن محول کنید و تشخیص دهد که کارآمدترین راه حل، کاهش ۸۰ درصدی فعالیتهای انسانی است، در اقدام تردید نخواهد کرد و این امر بر شدت خطرات بالقوه هوش مصنوعی عمومی تأکید دارد.
نه به این خاطر که بیرحم است، بلکه به این دلیل که اهمیتی نمیدهد. ما هوش را انسانانگاری میکنیم زیرا به ما آرامش میدهد، اما این یک دوست فوقالعاده هوشمند نیست که ما در حال ساختن آن هستیم. این یک موتور منطقی است، عاری از همدلی، بدون حس شوخطبعی، فروتنی یا تردید. یک طوفان از شما متنفر نیست، اما همچنان میتواند خانه شما را با خاک یکسان کند. هوش مصنوعی عمومی ممکن است با همان کارایی سرد عمل کند - با این تفاوت که اهداف را انتخاب خواهد کرد.
این چیزی است که محققان هوش مصنوعی آن را «مشکل همترازی» مینامند - چگونه میتوان مطمئن شد که یک هوش مصنوعی ارزشها، اخلاق و اولویتهای انسانی را درک کرده و به آنها احترام میگذارد؟ حقیقت وحشتناک این است که ما نمیدانیم. ما با سرعت تمام به سمت آیندهای میرویم که هنوز نمیتوانیم آن را کنترل کنیم، مسلح به سیستمهایی که نمیتوانیم به طور کامل پیشبینی کنیم. همترازی فقط یک اشکال نرمافزاری نیست که منتظر وصله شدن باشد - این یک معمای وجودی است که پاسخ روشنی ندارد.
اگر اشتباه کنیم، ممکن است شانس دوبارهای وجود نداشته باشد. جفری هینتون، یکی از پیشگامان هوش مصنوعی مدرن، گوگل را برای نوشتن داستانهای علمی تخیلی ترک نکرد. او آنجا را ترک کرد زیرا از نزدیک شاهد پیشرفت سریع این فناوری و عدم آمادگی ما برای مهار آن بود. وقتی افرادی که موشک را ساختهاند شروع به هشدار در مورد سوخت میکنند، شاید باید قبل از روشن کردن کبریت، بایستیم و گوش دهیم.
چرا مسابقه اینقدر خطرناک است
در حال حاضر، سیلیکون ولی فقط مسابقه نمیدهد - بلکه پا به پا میکند. تلاش برای توسعه هوش عمومی مصنوعی به یک تب طلای فناوری تبدیل شده است، جایی که غنایم نه تنها به سریعترینها، بلکه به اولینها میرسد. شرکت یا ملتی که زودتر از همه از خط پایان هوش عمومی مصنوعی عبور کند، فقط افتخار کسب نمیکند - آنها ابزاری را کنترل خواهند کرد که قادر به تغییر شکل اقتصاد، ارتش، آموزش و حتی خود حکومت است. به همین دلیل است که با پروتکلهای ایمنی، چارچوبهای اخلاقی و نظارت متفکرانه طوری رفتار میشود که انگار بار مرده هستند. احتیاط شما را کند میکند. در این مسابقه، پای همه روی گاز است و هیچ کس به دنبال ترمز نیست. منطق به طرز تکاندهندهای ساده است: اگر ما اول آن را نسازیم، شخص دیگری خواهد ساخت - و آنها کسانی خواهند بود که آینده را خواهند نوشت. بنابراین شعار ناگفته این میشود: اکنون بساز، بعداً طلب بخشش کن.
حتی وقتی افراد داخلی - مانند دهها محقق برتر که نامههای سرگشاده امضا کرده و خواستار ایجاد موانع نظارتی شدهاند - پرچمهای قرمز را بالا میبرند، هیچ چیز واقعاً تغییر نمیکند. چرا؟ چون ساختار انگیزه بر اساس سود کوتاهمدت و انکار بلندمدت بنا شده است. آشنا به نظر میرسد؟ باید هم همینطور باشد. ما شاهد آشکار شدن همین سناریو با شرکتهای بزرگ نفتی در لاپوشانی علم آب و هوا، شرکتهای بزرگ دخانیات با پرداخت پول به دانشمندان برای مبهم کردن ارتباط سرطان، و شرکتهای بزرگ داروسازی با ادعای بیگناهی، بودهایم. حالا وارد غول هوش مصنوعی بزرگ شوید، آخرین غول بیقانونی که به سمت پرتگاه میدود و بشریت را با خود میکشد. اما این بار، ما فقط با اکوسیستمها، ریهها یا اعتیاد قمار نمیکنیم - ما با ادامه وجود خود عامل انسانی قمار میکنیم. اگر این مورد را اشتباه بفهمیم، ممکن است تمدن به جایی نرسد.
هشدار اغراق نیست—واقعبینی است
ممکن است برخی بگویند این لحن هشداردهنده است. خوب است. باید هم باشد. زیرا وقتی به عقب برمیگردید و تصویر کامل را میبینید، فقط فناوری نیست که در حال شتاب گرفتن است - بلکه فروپاشی نهادهایی است که قرار است آن را مدیریت کنند. ما شاهد ظهور رژیمهای اقتدارگرا، فرسایش اعتماد به فرآیندهای دموکراتیک و یک سیستم بینالمللی از هم گسیخته هستیم که به سختی میتواند در مورد سیاستهای اقلیمی به توافق برسد، چه برسد به اینکه بتواند ابرهوش مصنوعی را مدیریت کند. این ایده که همین سیستم به موقع یک واکنش جهانی به هوش مصنوعی عمومی را هماهنگ خواهد کرد، صادقانه بگویم، تفکر جادویی است.
آنچه ما نیاز داریم، اقدام فوری و هماهنگ مبتنی بر صداقت در مورد جایگاه فعلیمان است - نه خوشبینی مؤدبانه. واقعیت این است: ما در حال حرکت به سمت قدرتمندترین فناوریِ تاکنون تصور شده هستیم، در حالی که بنیان سیاسیمان زیر پایمان در حال ترک خوردن است. اگر این دلیلی برای هشدار نیست، پس چیست؟ ما به یک اجلاس دیگر با بیانیه مطبوعاتی نیاز نداریم. ما به یک بیداری جهانی نیاز داریم. نه فردا. همین حالا.
لازم نیست دانشمند کامپیوتر باشید تا بفهمید چه اتفاقی دارد میافتد. اما باید اهمیت بدهید. این فقط مربوط به فناوری نیست. این مربوط به قدرت، کنترل و آیندهی عامل انسانی است. فرض کنید تصمیمگیری در مورد هوش مصنوعی عمومی (AGI) به تعداد انگشتشماری میلیاردر و پیمانکار دفاعی واگذار شود. چه نوع دنیایی را برای فرزندان خود به جا خواهیم گذاشت؟
ما به فشار عمومی، نظارت شفاف و سیاست واقعی نیاز داریم، نه پس از رسیدن هوش مصنوعی عمومی، بلکه همین حالا. به اقدامات اقلیمی فکر کنید، اما برای شناخت. از سازمانهایی که برای توسعه ایمن هوش مصنوعی تلاش میکنند حمایت کنید. خواستار بحث آزاد باشید، نه پنهانکاری شرکتی. و بله، طوری رأی دهید که انگار آینده دیجیتال شما به آن بستگی دارد. چون واقعاً همینطور است.
در همین حال، خودتان را آموزش دهید. به دیگران آموزش دهید. از آن غافل نشوید. بزرگترین خطر این نیست که هوش مصنوعی خیلی باهوش شود، بلکه این است که ما خیلی منفعل بمانیم.
شاید آزمون واقعی این نباشد که آیا میتوانیم هوش مصنوعی عمومی بسازیم یا نه. شاید این باشد که آیا به اندازه کافی خردمند هستیم که از آن جان سالم به در ببریم یا نه. اما یک چیز قطعی است: این غول به شیشه برنمیگردد.
درباره نویسنده
رابرت جینگز رابرت، یکی از ناشران InnerSelf.com است، پلتفرمی که به توانمندسازی افراد و ایجاد جهانی متصلتر و عادلانهتر اختصاص دارد. رابرت، که از کهنهسربازان نیروی دریایی ایالات متحده و ارتش ایالات متحده است، از تجربیات متنوع زندگی خود، از کار در املاک و مستغلات و ساخت و ساز گرفته تا ساخت InnerSelf.com به همراه همسرش، ماری تی. راسل، بهره میبرد تا دیدگاهی عملی و مبتنی بر واقعیت به چالشهای زندگی ارائه دهد. InnerSelf.com که در سال ۱۹۹۶ تأسیس شد، بینشهایی را به اشتراک میگذارد تا به مردم کمک کند انتخابهای آگاهانه و معناداری برای خود و سیاره زمین داشته باشند. بیش از ۳۰ سال بعد، InnerSelf همچنان الهامبخش شفافیت و توانمندسازی است.
کریتیو کامنز ۳.۰
این مقاله تحت مجوز Creative Commons Attribution-Share Alike 4.0 منتشر شده است. به نویسنده نسبت دهید رابرت جنینگز، InnerSelf.com لینک مجدد به مقاله این مقاله در ابتدا در ظاهر InnerSelf.com
خلاصه مقاله
هوش مصنوعی عمومی (AGI) از آنچه اکثر مردم تصور میکنند، نزدیکتر است و کارشناسان هشدار میدهند که این هوش میتواند تا دهه 2030 به دست آید. AGI نشاندهنده هوش در سطح انسان در ماشینها است و پس از دستیابی به آن، میتواند به سرعت به ابرهوش مصنوعی (ASI) منجر شود - سیستمی بسیار فراتر از درک ما. با شتاب گرفتن توسعه هوش مصنوعی، آگاهی عمومی و سیاستهای پیشگیرانه برای اطمینان از اینکه در خدمت بشریت است نه جایگزینی آن، ضروری است.
#هوش_عمومی_مصنوعی #هوش_عمومی_فوق_هوشمند #آینده_هوش_مصنوعی #هوش_عمومی_هوش_مصنوعی #پیشرفت_هوش_مصنوعی #اخلاق_هوش_مصنوعی #آینده_فناوری
