تصویر سوزان سیپریانو
از ویرایشگر:
همانطور که در این مقاله مشخص شد، توسعه کمپین‌های سیاسی مبتنی بر هوش مصنوعی، مانند ماشین فرضی به نام Clogger، می‌تواند به شدت یکپارچگی انتخابات را تضعیف کند. با استفاده از اتوماسیون، پیام‌رسانی مناسب و یادگیری تقویتی، این ماشین‌ها پتانسیل دستکاری و تغییر رفتار رأی‌دهندگان را در مقیاس وسیع دارند.
در عصری که هوش مصنوعی (AI) به سرعت در حال پیشرفت است، ما باید مراقب تهدیدات بالقوه ای که برای فرآیندهای دموکراتیک ما ایجاد می کند، باشیم. ظهور کمپین های مبتنی بر هوش مصنوعی، ماهیت دموکراسی را به چالش می کشد. به جای اینکه انتخابات با قدرت ایده‌ها، پیشنهادات سیاسی و انتخاب‌های واقعی رأی دهندگان تعیین شود، می‌توان آنها را تحت تأثیر ماشین‌هایی قرار داد که صرفاً بر پیروزی متمرکز شده‌اند. محتوای غالب از مدل های زبان هوش مصنوعی بدون توجه به حقیقت یا اصول سیاسی می آید. در اصل، نتیجه انتخابات توسط یک هوش مصنوعی دیکته می شود و روند دموکراتیک را فرسایش می دهد.
برای جلوگیری از ظهور «کلوگوکراسی» و ناتوانی شهروندان، بسیار مهم است که اقدام کنیم. حفاظت از حریم خصوصی پیشرفته و قوانین قوی حفظ حریم خصوصی داده‌ها می‌تواند به محدود کردن دسترسی ماشین‌های هوش مصنوعی به داده‌های شخصی کمک کند و اثربخشی آنها را در هدف‌گیری و دستکاری افراد کاهش دهد. کمیسیون‌های انتخاباتی همچنین باید سیستم‌های هوش مصنوعی را که برای تأثیرگذاری بر رای‌دهندگان طراحی شده‌اند، ممنوع کرده یا به شدت تنظیم کنند. اجرای مقرراتی که در صورت استفاده از پیام‌های تولید شده توسط هوش مصنوعی در کمپین‌های سیاسی، نیازمند سلب مسئولیت واضح است. این می تواند شفافیت را فراهم کند و به رای دهندگان در تصمیم گیری آگاهانه کمک کند.
ضروری است که این چالش ها را فعالانه بررسی کنیم و اطمینان حاصل کنیم که از قدرت هوش مصنوعی به طور مسئولانه برای حفظ اصول دموکراسی استفاده می شود. با حفاظت از یکپارچگی انتخابات و حفاظت از آزادی انتخاب، می‌توانیم پیچیدگی‌های هوش مصنوعی را پشت سر بگذاریم و پایه‌های حکمرانی دموکراتیک را حفظ کنیم.
چگونه هوش مصنوعی می تواند انتخابات را تسخیر کند - و دموکراسی را تضعیف کند
نوشته شده توسط آرکون فانگاستاد حقوق شهروندی و خودگردانی مدرسه دانشکده هاروارد کنده و لارنس لسینگ، استاد حقوق و رهبری، دانشگاه هاروارد
آیا سازمان ها می توانند از مدل های زبان هوش مصنوعی مانند ChatGPT برای ترغیب رأی دهندگان به رفتارهای خاص استفاده کنند؟
سناتور جاش هاولی این سوال را از سام آلتمن، مدیر عامل OpenAI پرسید 16 مه 2023، جلسه استماع سنای ایالات متحده در مورد هوش مصنوعی آلتمن پاسخ داد که او واقعاً نگران است که برخی از افراد ممکن است از مدل های زبانی برای دستکاری، متقاعد کردن و درگیر شدن در تعاملات یک به یک با رأی دهندگان استفاده کنند.
آلتمن توضیح بیشتری نداد، اما ممکن است چیزی شبیه به این سناریو را در ذهن داشته باشد. تصور کنید که به زودی، فن‌آوران سیاسی ماشینی به نام Clogger را توسعه دهند - یک کمپین سیاسی در جعبه سیاه. Clogger بی وقفه فقط یک هدف را دنبال می کند: به حداکثر رساندن شانس برتری نامزد آن - کمپینی که خدمات Clogger Inc. را خریداری می کند - در انتخابات.
در حالی که پلتفرم هایی مانند فیس بوک، توییتر و یوتیوب از اشکال هوش مصنوعی برای جذب کاربران استفاده می کنند وقت بیشتری بگذران در سایت‌هایشان، هوش مصنوعی کلاگر هدف دیگری دارد: تغییر رفتار رأی‌دهی مردم.
Clogger چگونه کار می کند
به عنوان یک دانشمند سیاسی و یک دانشمند حقوق که تلاقی فناوری و دموکراسی را مطالعه می کنند، ما معتقدیم که چیزی مانند Clogger می تواند از اتوماسیون برای افزایش چشمگیر مقیاس و به طور بالقوه اثربخشی استفاده کند. تکنیک های دستکاری رفتار و ریزهدف گیری که کمپین های سیاسی از اوایل دهه 2000 استفاده کرده اند. فقط به عنوان تبلیغ کنندگان از تاریخچه مرور و رسانه های اجتماعی شما استفاده می کنند برای هدف قرار دادن جداگانه تبلیغات تجاری و سیاسی اکنون، Clogger به شما - و صدها میلیون رای دهنده دیگر - به صورت جداگانه توجه می کند.
این سه پیشرفت را نسبت به دستکاری رفتار الگوریتمی فعلی ارائه می دهد. اولاً، مدل زبان آن پیام‌هایی را ایجاد می‌کند - متن‌ها، رسانه‌های اجتماعی و ایمیل، شاید شامل تصاویر و ویدیوها - متناسب با شخص شما. در حالی که تبلیغ‌کنندگان به صورت استراتژیک تعداد نسبتاً کمی تبلیغات را قرار می‌دهند، مدل‌های زبانی مانند ChatGPT می‌توانند پیام‌های منحصربه‌فرد بی‌شماری را برای شخص شما – و میلیون‌ها نفر برای دیگران – در طول کمپین ایجاد کنند.
دوم اینکه کلاگر از تکنیکی به نام استفاده می کند تقویت یادگیری برای ایجاد پی در پی پیام هایی که احتمال تغییر رای شما افزایش می یابد. یادگیری تقویتی یک رویکرد یادگیری ماشینی، آزمون و خطا است که در آن رایانه اقداماتی را انجام می دهد و درباره اینکه کدام کار بهتر است بازخورد دریافت می کند تا یاد بگیرد چگونه به یک هدف دست یابد. ماشین هایی که می توانند Go، شطرنج و بسیاری از بازی های ویدیویی را بازی کنند بهتر از هر انسانی از یادگیری تقویتی استفاده کرده اند.
نحوه عملکرد یادگیری تقویتی
سوم، در طول یک کمپین، پیام‌های Clogger می‌توانند به منظور در نظر گرفتن پاسخ‌های شما به ارسال‌های قبلی دستگاه و آنچه که در مورد تغییر نظر دیگران آموخته است، تکامل یابند. Clogger می تواند در طول زمان "مکالمات" پویا را با شما - و میلیون ها نفر دیگر - ادامه دهد. پیام های Clogger مشابه خواهد بود تبلیغاتی که شما را دنبال می کنند در وب سایت ها و رسانه های اجتماعی مختلف
ماهیت هوش مصنوعی
سه ویژگی دیگر - یا اشکالات - ارزش توجه دارند.
اول، پیام هایی که Clogger ارسال می کند ممکن است محتوای سیاسی داشته باشند یا نباشند. تنها هدف این دستگاه به حداکثر رساندن سهم رای است و احتمالاً استراتژی‌هایی را برای دستیابی به این هدف طراحی می‌کند که هیچ مبارز انسانی به آن فکر نمی‌کرد.
یک امکان ارسال اطلاعات به رای دهندگان مخالف احتمالی در مورد علایق غیرسیاسی که در ورزش یا سرگرمی دارند برای دفن پیام های سیاسی که دریافت می کنند است. امکان دیگر ارسال پیام‌های بی‌اختیاری – برای مثال تبلیغات بی‌اختیاری – است که همزمان با پیام‌های مخالفان است. و دیگری دستکاری گروه‌های دوستان رسانه‌های اجتماعی رأی‌دهندگان است تا این حس را القا کند که محافل اجتماعی آنها از نامزد آن حمایت می‌کنند.
دوم اینکه کلاگر هیچ توجهی به حقیقت ندارد. در واقع، هیچ راهی برای شناخت درست یا نادرست بودن آن وجود ندارد. مدل زبان "توهمات" برای این دستگاه مشکلی نیست زیرا هدف آن تغییر رای شما است نه ارائه اطلاعات دقیق.
سوم، چون الف است جعبه سیاه نوع هوش مصنوعی، مردم راهی ندارند که بدانند از چه استراتژی هایی استفاده می کند.
هدف حوزه هوش مصنوعی قابل توضیح باز کردن جعبه سیاه بسیاری از مدل‌های یادگیری ماشینی است تا مردم بتوانند نحوه کار آنها را درک کنند.
کلوکراسی
اگر کمپین ریاست جمهوری جمهوری خواهان کلاگر را در سال 2024 مستقر کند، کمپین دموکرات احتمالاً مجبور می شود به همان شکل، شاید با دستگاهی مشابه، پاسخ دهد. اسمش را داگر بگذار اگر مدیران کمپین فکر می‌کردند که این ماشین‌ها مؤثر هستند، رقابت ریاست‌جمهوری ممکن است به Clogger vs Dogger ختم شود و برنده مشتری ماشین مؤثرتر باشد.
دانشمندان علوم سیاسی و صاحب نظران می‌توانند در مورد دلیل غالب شدن این یا آن هوش مصنوعی حرف‌های زیادی برای گفتن داشته باشند، اما احتمالاً هیچ‌کس واقعاً نمی‌داند. رئیس‌جمهور نه به این دلیل انتخاب می‌شود که پیشنهادات سیاسی یا ایده‌های سیاسی‌اش آمریکایی‌های بیشتری را متقاعد کرده است، بلکه به این دلیل که او هوش مصنوعی مؤثرتری دارد. محتوایی که این روز را برنده شد، می توانست از یک هوش مصنوعی باشد که صرفاً بر پیروزی متمرکز شده بود، بدون ایده های سیاسی خودش، به جای نامزدها یا احزاب.
در این مفهوم بسیار مهم، یک ماشین برنده انتخابات می شد تا یک شخص. انتخابات دیگر دموکراتیک نخواهد بود، حتی اگر همه فعالیت‌های عادی دموکراسی - سخنرانی‌ها، تبلیغات، پیام‌ها، رای‌گیری و شمارش آرا - انجام شده باشد.
رئیس‌جمهور منتخب هوش مصنوعی می‌تواند یکی از دو راه را طی کند. او می تواند از ردای انتخابات برای پیگیری سیاست های حزب جمهوری خواه یا دموکرات استفاده کند. اما از آنجایی که ممکن است ایده‌های حزب ارتباط چندانی با این موضوع نداشته باشد که چرا مردم به شیوه‌ای که رای دادند – کلاگر و داگر به دیدگاه‌های سیاستی اهمیتی نمی‌دهند – اقدامات رئیس‌جمهور لزوماً منعکس‌کننده اراده رأی‌دهندگان نیست. رأی دهندگان به جای انتخاب آزادانه رهبران سیاسی و سیاست های خود، توسط هوش مصنوعی دستکاری می شدند.
مسیر دیگر این است که رئیس جمهور پیام ها، رفتارها و سیاست هایی را دنبال کند که ماشین پیش بینی می کند شانس انتخاب مجدد را به حداکثر می رساند. در این مسیر، رئیس جمهور هیچ پلاتفرم یا برنامه خاصی فراتر از حفظ قدرت نخواهد داشت. اقدامات رئیس جمهور که توسط کلاگر هدایت می شود، به احتمال زیاد برای دستکاری رأی دهندگان به جای خدمت به منافع واقعی آنها یا حتی ایدئولوژی خود رئیس جمهور است.
اجتناب از کلوگوکراسی
اگر کاندیداها، کمپین ها و مشاوران همگی استفاده از چنین هوش مصنوعی سیاسی را نپذیرفتند، می توان از دستکاری انتخاباتی هوش مصنوعی جلوگیری کرد. ما معتقدیم که بعید است. اگر جعبه‌های سیاه مؤثر از نظر سیاسی ساخته می‌شدند، وسوسه استفاده از آنها تقریباً غیرقابل مقاومت بود. در واقع، مشاوران سیاسی ممکن است استفاده از این ابزارها را آنگونه که مسئولیت حرفه ای آنها لازم است برای کمک به نامزدهای خود برای پیروزی ببینند. و هنگامی که یک نامزد از چنین ابزار مؤثری استفاده می کند، به سختی می توان انتظار داشت که مخالفان با خلع سلاح یکجانبه مقاومت کنند.
حفاظت از حریم خصوصی پیشرفته کمک می کند. Clogger برای هدف قرار دادن افراد، ایجاد پیام‌هایی که برای متقاعد کردن یا دستکاری آنها طراحی شده و آنها را در طول یک کمپین ردیابی و هدف‌گیری مجدد می‌کند، به دسترسی به مقادیر زیادی از داده‌های شخصی بستگی دارد. هر ذره ای از اطلاعاتی که شرکت ها یا سیاست گذاران دستگاه را انکار می کنند، کارایی آن را کم می کند.
قوانین قوی حفظ حریم خصوصی داده ها می تواند به جلوگیری از دستکاری هوش مصنوعی کمک کند.
راه حل دیگر مربوط به کمیسیون های انتخابات است. آنها می توانند سعی کنند این ماشین ها را ممنوع یا به شدت تنظیم کنند. یک وجود دارد بحث شدید در مورد اینکه آیا چنین است گفتار "بازتاب دهنده".، حتی اگر ماهیت سیاسی داشته باشد، قابل تنظیم است. سنت افراطی آزادی بیان در ایالات متحده باعث می شود بسیاری از دانشگاهیان برجسته بگویند که نمی تواند.
اما هیچ دلیلی وجود ندارد که به طور خودکار حفاظت اصلاحیه اول را به محصولات این ماشین ها گسترش دهیم. ممکن است ملت حق اعطای حقوق ماشین‌ها را انتخاب کند، اما این باید تصمیمی مبتنی بر چالش‌های امروز باشد. نه این فرض نابجا که دیدگاه های جیمز مدیسون در سال 1789 برای اعمال هوش مصنوعی در نظر گرفته شده بود.
تنظیم کننده های اتحادیه اروپا در حال حرکت در این مسیر هستند. سیاستگذاران پیش نویس قانون هوش مصنوعی پارلمان اروپا را برای تعیین «سیستم های هوش مصنوعی برای تأثیرگذاری بر رأی دهندگان در کمپین ها» تجدید نظر کردند. به عنوان "ریسک بالا" و مشمول بررسی نظارتی است.
یک گام از نظر قانون اساسی ایمن تر، اگر کوچکتر باشد، قبلاً تا حدی توسط آن تصویب شده است تنظیم کننده های اینترنت اروپایی و در کالیفرنیا، این است که ربات ها را از انتقال خود به عنوان افراد منع کند. به عنوان مثال، مقررات ممکن است مستلزم آن باشد که پیام‌های کمپین زمانی با سلب مسئولیت همراه باشند، زمانی که محتوای آنها توسط ماشین‌ها به جای انسان تولید شده باشد.
این مانند الزامات سلب مسئولیت تبلیغاتی است - "پرداخت شده توسط سم جونز برای کمیته کنگره" - اما برای منعکس کردن منشأ هوش مصنوعی آن اصلاح شده است: "هزینه این تبلیغ تولید شده توسط هوش مصنوعی توسط کمیته سم جونز برای کنگره پرداخت شده است." یک نسخه قوی‌تر می‌تواند مستلزم این باشد: "این پیام ایجاد شده توسط هوش مصنوعی توسط کمیته سم جونز برای کنگره برای شما ارسال می‌شود، زیرا Clogger پیش‌بینی کرده است که انجام این کار شانس شما را برای رای دادن به سام جونز 0.0002٪ افزایش می‌دهد." حداقل، ما معتقدیم که رای دهندگان سزاوار این هستند که بدانند چه زمانی یک ربات با آنها صحبت می کند، و آنها نیز باید بدانند چرا.
امکان سیستمی مانند Clogger نشان می دهد که مسیر به سمت ناتوانی جمعی انسان ممکن است نیازی به ماوراء بشر نداشته باشد هوش عمومی مصنوعی. ممکن است فقط به مبارزان و مشاوران بیش از حد نیاز داشته باشد که ابزارهای جدید قدرتمندی داشته باشند که می توانند به طور مؤثر دکمه های میلیون ها نفر را فشار دهند.
درباره نویسنده
آرکون فانگاستاد حقوق شهروندی و خودگردانی مدرسه دانشکده هاروارد کنده و لارنس لسینگ، استاد حقوق و رهبری، دانشگاه هاروارد
این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.
ضمیمه سردبیر: پتانسیل هوش مصنوعی برای تسلط بر انتخابات و تضعیف دموکراسی یک نگرانی مبرم است که توجه ما را می طلبد. همانطور که این مقاله نشان داده است، ظهور کمپین های سیاسی مبتنی بر هوش مصنوعی مانند Clogger می تواند نتایج انتخابات را تغییر دهد، با ماشین هایی که بر رفتار رأی دهندگان در مقیاس بی سابقه ای تأثیر می گذارند. پیامدهای چنین تغییری بسیار گسترده خواهد بود، زیرا انتخابات نه با اراده مردم، بلکه با اثربخشی دستکاری هوش مصنوعی تعیین می شود.
برای جلوگیری از این ناتوانی شهروندان و حفظ دموکراسی، باید اقدامات پیشگیرانه انجام دهیم. حفاظت از حریم خصوصی قوی و مقرراتی که تأثیر سیستم‌های هوش مصنوعی را در انتخابات محدود می‌کند، بسیار مهم هستند. با تضمین شفافیت، اعمال سلب مسئولیت‌های واضح برای محتوای تولید شده توسط هوش مصنوعی، و ترویج استفاده مسئولانه از هوش مصنوعی، می‌توانیم از یکپارچگی فرآیندهای دموکراتیک حمایت کرده و از ارزش‌های اساسی جامعه خود محافظت کنیم.
ضروری است که هوشیار باقی بمانیم و به طور جمعی برای عبور از چالش های ایجاد شده توسط هوش مصنوعی در انتخابات تلاش کنیم. با انجام این کار، می‌توانیم آرمان‌های دموکراتیکی را که زیربنای جوامع ما هستند حفظ کنیم و آینده‌ای را تضمین کنیم که در آن قدرت فناوری با منافع و آرمان‌های مردم همسو باشد.
کتاب های مرتبط:
درباره استبداد: بیست درس از قرن بیستم
توسط تیموتی اسنایدر
این کتاب درس هایی از تاریخ برای حفظ و دفاع از دموکراسی، از جمله اهمیت نهادها، نقش تک تک شهروندان، و خطرات استبداد ارائه می دهد.
برای اطلاعات بیشتر یا سفارش کلیک کنید
زمان ما اکنون است: قدرت، هدف، و مبارزه برای آمریکای عادلانه
توسط استیسی آبرامز
نویسنده، سیاستمدار و فعال، دیدگاه خود را برای دموکراسی فراگیرتر و عادلانه‌تر به اشتراک می‌گذارد و استراتژی‌های عملی برای مشارکت سیاسی و بسیج رأی‌دهندگان ارائه می‌دهد.
برای اطلاعات بیشتر یا سفارش کلیک کنید
چگونه دموکراسی ها می میرند
توسط استیون لویتسکی و دانیل زیبلات
این کتاب به بررسی علائم هشدار دهنده و علل فروپاشی دموکراسی می پردازد و از مطالعات موردی از سراسر جهان استفاده می کند تا بینش هایی را در مورد چگونگی محافظت از دموکراسی ارائه دهد.
برای اطلاعات بیشتر یا سفارش کلیک کنید
مردم، شماره: تاریخ مختصر ضد پوپولیسم
توسط توماس فرانک
نویسنده تاریخچه ای از جنبش های پوپولیستی در ایالات متحده ارائه می دهد و ایدئولوژی «ضد پوپولیستی» را که به گفته او اصلاحات و پیشرفت دموکراتیک را خفه کرده است، نقد می کند.
برای اطلاعات بیشتر یا سفارش کلیک کنید
دموکراسی در یک کتاب یا کمتر: چگونه کار می‌کند، چرا اینطور نیست، و چرا رفع آن آسان‌تر از آن چیزی است که فکر می‌کنید
توسط دیوید لیت
این کتاب مروری بر دموکراسی، از جمله نقاط قوت و ضعف آن، ارائه می‌کند و اصلاحاتی را برای پاسخگوتر کردن و پاسخگویی بیشتر سیستم پیشنهاد می‌کند.
