در نگاه اول، تصاویری که در فضای مجازی پخش میشود و نشان میدهد دونالد ترامپ، رئیسجمهور سابق آمریکا در محاصره گروههایی از سیاهپوستان در حال لبخند زدن و خندیدن است، چیزی غیرعادی به نظر نمیرسد، اما نگاهی دقیقتر گویای آن است.
نورهای عجیب و غریب و جزئیات بسیار عالی سرنخ هایی از این واقعیت را ارائه می دهند که همه آنها با استفاده از هوش مصنوعی تولید شده اند. این عکسها که به مبارزات انتخاباتی ترامپ مرتبط نبودهاند، در حالی منتشر شدهاند که ترامپ به دنبال جلب نظر رأیدهندگان سیاهپوستی است که نظرسنجیها نشان میدهد به رئیس جمهور جو بایدن وفادار هستند.
تصاویر ساختگی که در تحقیقات اخیر بیبیسی برجسته شدهاند، شواهد بیشتری برای حمایت از هشدارها ارائه میکنند که استفاده از تصاویر تولید شده توسط هوش مصنوعی تنها با نزدیک شدن به انتخابات عمومی نوامبر افزایش خواهد یافت. کارشناسان گفتند که آنها خطر این را که هر گروهی – لاتین تبارها، زنان، رای دهندگان مرد مسن – ممکن است با تصاویر واقعی مورد هدف قرار گیرند، برای گمراه کردن و گیج کردن و همچنین نشان دادن نیاز به مقررات پیرامون این فناوری، برجسته می کنند.
در گزارشی که این هفته منتشر شد، محققان مرکز غیرانتفاعی مقابله با نفرت دیجیتالی از چندین برنامه معروف هوش مصنوعی استفاده کردند تا نشان دهند که ساخت دیپفیکهای واقعی چقدر آسان است که بتواند رایدهندگان را فریب دهد. محققان توانستند تصاویری از ملاقات ترامپ با عوامل روسی، بایدن در حال پر کردن صندوق رأی و اعضای شبه نظامیان مسلح در محل های رأی گیری تهیه کنند، حتی اگر بسیاری از این برنامه های هوش مصنوعی می گویند قوانینی برای ممنوعیت این نوع محتوا دارند.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
این مرکز برخی از دیپفیکهای اخیر رایدهندگان ترامپ و سیاهپوستان را تجزیه و تحلیل کرد و تشخیص داد که حداقل یکی از آنها در ابتدا به عنوان طنز ساخته شده بود، اما اکنون توسط حامیان ترامپ به عنوان مدرکی بر حمایت وی در میان سیاهپوستان به اشتراک گذاشته میشود.
عمران احمد، مدیرعامل و موسس این مرکز گفت: پلتفرمهای رسانههای اجتماعی و شرکتهای هوش مصنوعی باید بیشتر برای محافظت از کاربران در برابر اثرات مضر هوش مصنوعی تلاش کنند.
احمد گفت: «اگر یک تصویر ارزش هزار کلمه را دارد، پس این تولیدکنندگان تصویر خطرناک، همراه با تلاشهای ضعیف برای تعدیل محتوای جریان اصلی رسانههای اجتماعی، ابزاری قدرتمند برای بازیگران بد برای گمراه کردن رأی دهندگان است که تا به حال دیدهایم.» . این زنگ خطری برای شرکتهای هوش مصنوعی، پلتفرمهای رسانههای اجتماعی و قانونگذاران است اکنون اقدام کنید یا دموکراسی آمریکایی را در معرض خطر قرار دهید.»
این تصاویر هشداری را در سمت راست و چپ ایجاد کرد که می تواند مردم را در مورد حمایت رئیس جمهور سابق در میان آمریکایی های آفریقایی تبار گمراه کند. برخی در مدار ترامپ از انتشار این تصاویر جعلی ابراز ناامیدی کرده اند و معتقدند که صحنه های ساخته شده باعث تضعیف نفوذ جمهوری خواهان به رای دهندگان سیاه پوست می شود.
دیانت جانسون، رئیس فدراسیون محافظهکاران سیاهپوست میگوید: «اگر عکسی از ترامپ در کنار سیاهپوستان میبینید و آن را در یک کمپین رسمی یا صفحه جانشین پست نمیبینید، این اتفاق نیفتاده است. این بی معنی است که فکر کنیم کمپین ترامپ باید از هوش مصنوعی برای نشان دادن حمایت سیاه پوستان خود استفاده کند.
کارشناسان انتظار دارند تلاشهای بیشتری برای استفاده از دیپفیکهای تولید شده توسط هوش مصنوعی برای هدف قرار دادن گروههای رایدهندگان خاص در ایالتهای در حال نوسان، مانند لاتین تبارها، زنان، آسیاییهای آمریکایی و محافظهکاران مسنتر، یا هر جمعیت دیگری که یک کمپین امیدوار است جذب، گمراه یا بترساند، انجام شود. با توجه به برگزاری انتخابات ده ها کشور در سال جاری، چالش های ناشی از دیپ فیک ها یک موضوع جهانی است.
در ماه ژانویه، رای دهندگان در نیوهمپشایر یک تماس غیرقانونی دریافت کردند که صدای بایدن را تقلید کرد و به دروغ به آنها گفت که اگر در انتخابات مقدماتی آن ایالت رای بیاورند، واجد شرایط رای دادن در انتخابات عمومی نیستند. یک مشاور سیاسی بعداً به ایجاد این فراخوان رباتیک اذعان کرد که ممکن است اولین تلاش شناخته شده برای استفاده از هوش مصنوعی برای تداخل در انتخابات ایالات متحده باشد.
بر اساس مطالعه فوریه توسط محققان دانشگاه استنفورد در بررسی تأثیرات بالقوه هوش مصنوعی بر جوامع سیاه پوست، چنین محتوایی حتی زمانی که باور نمی شود می تواند اثر خورنده داشته باشد. وقتی مردم متوجه می شوند که نمی توانند به تصاویری که آنلاین می بینند اعتماد کنند، ممکن است شروع به کاهش منابع اطلاعاتی قانونی کنند.
محققان نوشتند: «از آنجایی که محتوای تولید شده توسط هوش مصنوعی رایجتر میشود و تشخیص آن از محتوای تولید شده توسط انسان دشوار میشود، افراد ممکن است نسبت به اطلاعاتی که دریافت میکنند تردید و بیاعتمادتر شوند.»
حتی اگر در فریب دادن تعداد زیادی از رایدهندگان موفق نباشد، محتوای تولید شده توسط هوش مصنوعی در مورد رایگیری، نامزدها و انتخابات میتواند تشخیص واقعیت از خیال را برای هر کسی سختتر کند و باعث شود منابع اطلاعاتی مشروع را نادیده بگیرند و باعث از دست دادن اطلاعات شوند. اعتمادی که ایمان به دموکراسی را تضعیف می کند و در عین حال قطب بندی سیاسی را گسترش می دهد.
در حالی که ادعاهای نادرست در مورد نامزدها و انتخابات چیز جدیدی نیست، هوش مصنوعی ساخت تصاویر، ویدیو و صداهای واقعی را سریعتر، ارزانتر و آسانتر از همیشه میکند. هنگامی که روی پلتفرمهای رسانههای اجتماعی مانند TikTok، Facebook یا X منتشر میشود، دیپفکهای هوش مصنوعی میتوانند قبل از اینکه شرکتهای فناوری، مقامات دولتی یا رسانههای خبری قانونی حتی از وجود آنها آگاه شوند، به میلیونها نفر برسد.
جو پل، مدیر اجرایی و مدافعی که برای افزایش دسترسی دیجیتال در میان جوامع رنگین پوست تلاش کرده است، گفت: «هوش مصنوعی به سادگی اطلاعات نادرست را تسریع کرد و به سرعت به جلو فشار آورد. پل اشاره کرد که جوامع سیاهپوست اغلب «این سابقه بیاعتمادی» را با نهادهای اصلی، از جمله در سیاست و رسانه دارند، که هر دو باعث میشود جوامع سیاهپوست نسبت به روایتهای عمومی دربارهشان شکتر شوند و همچنین واقعیتسنجی برای اطلاعرسانی به جامعه انجام شود.
پل گفت: سواد دیجیتال و مهارت های تفکر انتقادی یکی از دفاع ها در برابر اطلاعات نادرست تولید شده توسط هوش مصنوعی است. “هدف این است که مردم را توانمند کنیم تا اطلاعاتی را که آنلاین با آنها مواجه می شوند ارزیابی کنند. توانایی تفکر انتقادی یک هنر گمشده در میان همه جوامع است، نه فقط جوامع سیاه پوست.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید