ترکیب ناپایدار دیپ فیک ها و کمپین های سیاسی دلیل خوبی برای مراقب بودن است. شان آنتونی ادی کریتیو/E+ از طریق گتی ایماژ

یک را تصور کنید سورپرایز اکتبر شبیه هیچ چیز دیگری: تنها یک هفته قبل از 5 نوامبر 2024، یک فیلم ضبط شده ملاقات مخفیانه جو بایدن و ولودیمیر زلنسکی را نشان می دهد. روسای جمهور آمریکا و اوکراین توافق کردند که بلافاصله اوکراین را به ناتو تحت «پروتکل عضویت اضطراری ویژه» وارد کرده و برای حمله تسلیحات هسته‌ای علیه روسیه آماده شوند. ناگهان جهان در آستانه هارماگدون قرار می گیرد.

در حالی که خبرنگاران می توانند به آن اشاره کنند چنین پروتکلی وجود ندارد و کاربران رسانه‌های اجتماعی ممکن است متوجه ویژگی‌های بازی ویدیویی عجیب ویدیو شوند، دیگران ممکن است این احساس را داشته باشند بدترین ترس های آنها تایید شده اند. هنگامی که روز انتخابات فرا می رسد، این شهروندان نگران ممکن است اجازه دهند که ویدئو رای آنها را تحت تاثیر قرار دهد، غافل از اینکه آنها به تازگی توسط یک موقعیت عمیق دستکاری شده اند - رویدادی که در واقع هرگز اتفاق نیفتاده است.

دیپ فیک های موقعیتی نشان دهنده مرحله بعدی فناوری ها هستند که دارم درک مخاطبان از واقعیت را متزلزل کرد. در تحقیقات ما در پروژه DeFake، همکاران من در موسسه فناوری روچستراز دانشگاه میسیسیپی, دانشگاه ایالتی میشیگان و من بررسی کنید که چگونه دیپ فیک ساخته می شود و رای دهندگان چه اقداماتی می توانند برای دفاع از خود در برابر آنها انجام دهند.

تصور اتفاقاتی که هرگز رخ نداده اند

دیپ فیک زمانی ایجاد می شود که شخصی از ابزار هوش مصنوعی استفاده کند، به خصوص یادگیری عمیق، برای دستکاری یا تولید یک چهره، یک صدا یا – با ظهور مدل های زبان بزرگ پسندیدن GPT چت - زبان محاوره ای. اینها را می توان با هم ترکیب کرد تا "دیپ فیک موقعیت" را تشکیل دهد.

ایده و فناوری اولیه یک دیپ فیک موقعیت مانند هر دیپ فیک دیگری است، اما با یک جاه طلبی جسورانه تر: دستکاری یک رویداد واقعی یا اختراع یک رویداد واقعی. نمونه ها شامل تصاویری از راهپیمایی دلخراش دونالد ترامپ و ترامپ آنتونی فائوچی را در آغوش گرفته است، هیچ کدام اتفاق نیفتاد. شات در آغوش گرفتن توسط a حساب توییتر مرتبط با مبارزات انتخاباتی ریاست جمهوری از رقیب ترامپ، ران دیسانتیس. یک تبلیغ حمله هدف قرار دادن کمپین جو بایدن در سال 2024 که توسط کمیته ملی جمهوری خواهان منتشر شد به طور کامل با هوش مصنوعی ساخته شده است.

در پروژه DeFake، ما تحقیق پیدا کرده است که دیپ‌فیک‌ها، از جمله موقعیت‌ها، معمولاً با ترکیبی از آن‌ها ایجاد می‌شوند افزودن یک قطعه رسانه به دیگری; با استفاده از یک ویدیو برای متحرک کردن یک تصویر یا تغییر ویدیوی دیگر، دوبله عروسک گردانی; ایجاد یک قطعه از رسانه، معمولاً با استفاده از هوش مصنوعی مولد; یا ترکیبی از این تکنیک ها

برای روشن شدن، بسیاری از دیپ فیک های موقعیت برای اهداف بی گناه ساخته می شوند. مثلا، مجله اودیسه بی نهایت عکس های جعلی را از فیلم هایی تولید می کند که هرگز تولید نشدند or هرگز نمی توانست وجود داشته باشد. اما حتی دیپ‌فیک‌های بی‌گناه نیز دلیلی برای مکث ایجاد می‌کنند، مانند عکس‌های تقلبی تقریباً باورپذیر که فرود آپولو در ماه به عنوان یک محصول سینمایی.

جعل عمیق انتخابات

اکنون خود را در موقعیت فردی قرار دهید که سعی دارد بر انتخابات آینده تأثیر بگذارد. موقعیت های احتمالی که ممکن است بخواهید ایجاد کنید چیست؟

برای شروع، مهم است که می خواهید رأی دادن را به سمت یک نتیجه خاص یا دور کنید. شاید شما نامزدی را به تصویر بکشید که قهرمانانه با بیرون کشیدن یک عابر پیاده از سر راه یک خودروی تندرو یا برعکس، انجام کاری توهین آمیز یا مجرمانه عمل می کند. قالب دیپ فیک وضعیت نیز مهم است. به جای یک ویدیو، می تواند یک عکس باشد، شاید با تاری و زوایایی که دوربین گوشی هوشمند را شبیه سازی می کند یا آرم جعلی یک خبرگزاری.

مخاطب هدف شما کلید خواهد بود. به جای هدف قرار دادن رای دهندگان عمومی یا پایگاه یک حزب، ممکن است نظریه پردازان توطئه را در حوزه های رای گیری کلیدی هدف قرار دهید. شما می توانید نامزد یا اعضای خانواده آنها را به عنوان درگیر در یک تصویر نشان دهید آیین شیطانی، شرکت در جشنواره در انحصاری و بحث برانگیز بوهمیه گورو، یا داشتن ملاقات مخفیانه با یک موجود فرازمینی.

اگر جاه طلبی و توانایی آن را دارید، حتی می توانید سعی کنید خود انتخابات را جعل کنید. در ژوئن 2023، ایستگاه های تلویزیونی و رادیویی روسیه هک شدند و دستور بسیج کامل را پخش کنید توسط دیپ فیک ولادیمیر پوتین رئیس جمهور روسیه. در حالی که انجام این کار در انتخابات ایالات متحده دشوارتر خواهد بود، در اصل هر رسانه خبری می تواند هک شود تا مجریان خود را که نتایج اشتباه را اعلام می کنند یا نامزدی را قبول کرده است، پخش کند.

دفاع از واقعیت

راه‌های فن‌آوری و روان‌شناختی مختلفی برای شناسایی و دفاع در برابر دیپ‌فیک موقعیت وجود دارد.

در زمینه فناوری، همه دیپ فیک ها حاوی شواهدی از ماهیت واقعی خود هستند. برخی از این نشانه ها با چشم انسان قابل مشاهده هستند - مانند پوست بیش از حد صاف یا نورهای عجیب و غریب یا معماری - در حالی که برخی دیگر ممکن است فقط توسط یک هوش مصنوعی شکار عمیق قابل تشخیص است.

ما در حال ساختن هستیم جعل کردنردیاب برای استفاده از هوش مصنوعی برای کشف نشانه های آشکار دیپ فیک، و ما در تلاش هستیم تا آن را به موقع برای انتخابات 2024 آماده کنیم. اما حتی اگر یک آشکارساز دیپ‌فیک به اندازه کافی قدرتمند مانند ما تا روز انتخابات قابل استفاده نباشد، ابزارهای روان‌شناختی وجود دارد که شما، رای‌دهنده، می‌توانید برای شناسایی دیپ‌فیک‌ها از آن‌ها استفاده کنید: دانش پس‌زمینه، کنجکاوی و شک و تردید سالم.

اگر با محتوای رسانه ای در مورد شخص، مکان یا رویدادی مواجه شدید که به نظر غیر مشخص می رسد، به دانش پیشینه خود اعتماد کنید. به عنوان مثال، در یک دروغ اخیر آتش سوزی در پنتاگون، ساختمان نشان داده شده بیشتر مربع به نظر می رسد تا پنج ضلعی، که می تواند یک هدیه باشد.

با این حال، سعی کنید به طور کامل به دانش پیشینه خود متکی نباشید، که ممکن است اشتباه یا ناقص باشد. هرگز از کسب اطلاعات بیشتر از منابع معتبر، مانند گزارش های خبری بررسی شده، مقالات دانشگاهی بررسی شده یا مصاحبه با کارشناسان معتبر نترسید.

علاوه بر این، توجه داشته باشید که می توان از دیپ فیک برای استفاده از آنچه که هستید استفاده کرد متمایل به باور درباره یک شخص، مکان یا رویداد یکی از بهترین راه‌ها برای مقابله با این موضوع ساده کردن است از تعصبات خود آگاه باشید و در مورد هر گونه محتوای رسانه ای که به نظر می رسد آنها را تأیید می کند کمی مراقب باشید.

حتی اگر امکان ایجاد دیپ‌فیک موقعیت‌های عالی وجود داشته باشد، موضوع آن‌ها چقدر باورپذیر است، احتمالاً پاشنه آشیل آن‌ها باقی خواهد ماند. بنابراین، با یا بدون راه حل فن آوری، شما هنوز هم قدرت دفاع از انتخابات را در برابر تأثیر رویدادهای جعلی دارید.

درباره نویسنده

کریستوفر شوارتز، دانشیار پژوهشی پسا دکتری امنیت محاسباتی، موسسه فناوری روچستر

این مقاله از مجله منتشر شده است گفتگو تحت مجوز Creative Commons دفعات بازدید: مقاله.

کتاب های مرتبط:

درباره استبداد: بیست درس از قرن بیستم

توسط تیموتی اسنایدر

این کتاب درس هایی از تاریخ برای حفظ و دفاع از دموکراسی، از جمله اهمیت نهادها، نقش تک تک شهروندان، و خطرات استبداد ارائه می دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

زمان ما اکنون است: قدرت، هدف، و مبارزه برای آمریکای عادلانه

توسط استیسی آبرامز

نویسنده، سیاستمدار و فعال، دیدگاه خود را برای دموکراسی فراگیرتر و عادلانه‌تر به اشتراک می‌گذارد و استراتژی‌های عملی برای مشارکت سیاسی و بسیج رأی‌دهندگان ارائه می‌دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

چگونه دموکراسی ها می میرند

توسط استیون لویتسکی و دانیل زیبلات

این کتاب به بررسی علائم هشدار دهنده و علل فروپاشی دموکراسی می پردازد و از مطالعات موردی از سراسر جهان استفاده می کند تا بینش هایی را در مورد چگونگی محافظت از دموکراسی ارائه دهد.

برای اطلاعات بیشتر یا سفارش کلیک کنید

مردم، شماره: تاریخ مختصر ضد پوپولیسم

توسط توماس فرانک

نویسنده تاریخچه ای از جنبش های پوپولیستی در ایالات متحده ارائه می دهد و ایدئولوژی «ضد پوپولیستی» را که به گفته او اصلاحات و پیشرفت دموکراتیک را خفه کرده است، نقد می کند.

برای اطلاعات بیشتر یا سفارش کلیک کنید

دموکراسی در یک کتاب یا کمتر: چگونه کار می‌کند، چرا اینطور نیست، و چرا رفع آن آسان‌تر از آن چیزی است که فکر می‌کنید

توسط دیوید لیت

این کتاب مروری بر دموکراسی، از جمله نقاط قوت و ضعف آن، ارائه می‌کند و اصلاحاتی را برای پاسخگوتر کردن و پاسخگویی بیشتر سیستم پیشنهاد می‌کند.

برای اطلاعات بیشتر یا سفارش کلیک کنید