انتخابات هند در جریان بود که صدها کاربر رسانه های اجتماعی ویدئویی را به اشتراک گذاشتند که ظاهراً آمیت شاه وزیر کشور را نشان می داد که حزب حاکم می خواهد سیستم سهمیه بندی را با هدف رفع قرن ها تبعیض طبقاتی لغو کند.
نظرات بحث برانگیز قبل از اینکه راستیبینها وارد عمل شوند و ویدیو را جعلی اعلام کنند که با استفاده از فیلمهای قدیمی ساخته شده بود و با کمک ابزارهای ویرایش اولیه – به اصطلاح ارزان جعلی – ساخته شده بود، خشم کوتاهی ایجاد کرد.
در آستانه انتخابات جاری، که قرار است نتایج آن در 4 ژوئن اعلام شود، سیاستمداران و گروه های حقوق دیجیتال ابراز نگرانی کردند که رای دهندگان ممکن است تحت تأثیر اطلاعات نادرست موجود در ویدیوهای «دیپ جعلی» مبتنی بر هوش مصنوعی قرار بگیرند.
اما حقیقتسنجیها میگویند اکثر تصاویر و ویدیوهای جعلی منتشر شده آنلاین در طول انتخابات شش هفتهای با استفاده از هوش مصنوعی (AI) ساخته نشدهاند، در عوض از تکنیکهای نسبتاً ارزان و ساده مانند ویرایش فیلم یا برچسبگذاری اشتباه برای ارائه محتوا در زمینهای گمراهکننده استفاده میکنند. .
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
Kiran Garimella، استادیار دانشگاه Rutgers که بر روی WhatsApp در هند تحقیق میکند، میگوید: «شاید 1 درصد از محتوایی که ما دیدهایم توسط هوش مصنوعی تولید شده باشد. از آنچه ما می توانیم بگوییم، هنوز درصد بسیار کمی از اطلاعات نادرست است.”
بررسیکنندگان حقایق میگویند، چه ارزانقیمتها و چه دیپفیکها، نتیجه میتواند به همان اندازه قانعکننده باشد و این مسئولیت را بر دوش شرکتهای رسانههای اجتماعی میگذارد تا برای ریشهکن کردن انواع اطلاعات نادرست که در پلتفرمهایشان پخش میشود، بیشتر تلاش کنند.
Pratik Sinha از Alt News، یک واقعیت غیرانتفاعی هندی، گفت: “شما می توانید رهبران مرده را با استفاده از هوش مصنوعی احیا کنید، اما مردم متوجه تبلیغات آن می شوند… با این حال، اگر یک ویدیو را به اشتباه برچسب گذاری کنید یا آن را خارج از زمینه آن کلیپ کنید، مردم بیشتر آن را باور خواهند کرد.” -بررسی وب سایت
سینها به بنیاد تامسون رویترز گفت: «به جای ورود به دودویی دیپفیکها و ارزانقیمتها، نیاز به یافتن راهی برای مقابله مؤثرتر با اطلاعات نادرست وجود دارد.
هم شرکت متا پلتفرم که مالک فیسبوک و اینستاگرام است و هم X که قبلا توییتر بود، سیاستهای جدیدی را برای سرکوب اشکال مختلف اطلاعات نادرست در یک سال بزرگ برای انتخابات جهانی معرفی کردند، اما گروههای حقیقتسنجی میگویند که نتایج ناامیدکننده بوده است.
دستورالعمل های به روز شده
متا در پاسخ به انتقادات هیئت نظارت خود، دستورالعمل های خود را در ماه آوریل به روز کرد تا برچسب های برجسته ای را به انواع اطلاعات نادرست اضافه کند. خطمشی قبلی متا فقط برای محتوای تغییر یافته یا ایجاد شده با استفاده از هوش مصنوعی اعمال میشد.
مونیکا بیکرت، معاون این شرکت، گفت: «ما با استدلال هیئت نظارت موافقیم که رویکرد فعلی ما بسیار محدود است، زیرا فقط ویدیوهایی را پوشش میدهد که توسط هوش مصنوعی ایجاد یا تغییر داده شدهاند تا به نظر برسد که شخص چیزی را که نگفته است، میگوید. سیاست محتوا، در یک پست وبلاگ در ماه گذشته نوشت.
بر اساس رویکرد جدید، که قبل از شروع انتخابات هند در 19 آوریل اجرایی شد، بررسیکنندگان حقایق با بررسی و رتبهبندی پستهای متا از جمله آگهیها، مقالهها، عکسها، ویدئوها، حلقهها، صدا در شبکه رسانههای اجتماعی خود تحت شش برچسب کار میکنند. اطلاعات بیشتر به کاربران
آنها می توانند از برچسب های نادرست، تا حدی نادرست، تغییر یافته، متن گمشده، طنز و درست استفاده کنند.
سینها اثربخشی این سیاست را در مقابله با پست های دروغین و گمراه کننده دستکاری شده دیجیتالی در دوره انتخابات زیر سوال برد.
او گفت: “من مطمئن نیستم که برچسب گذاری متا چقدر موثر بوده است.”
تجزیه و تحلیل بنیاد تامسون رویترز نشان داد که بسیاری از ویدیوهای بررسی شده در فیس بوک به درستی برچسب گذاری نشده اند یا اصلاً برچسب هشداری ندارند.
در یک ویدیو که از طریق ویرایش انجام شده است، به نظر می رسد نخست وزیر نارندرا مودی از هواداران می خواهد که به حزب رقیب رأی دهند. به جای برچسب تغییر یافته، برچسب تا حدی نادرست است – به این معنی که حاوی “برخی نادرستی واقعی” است.
کارن ربلو، معاون سردبیر وبسایت راستیآزمایی بوم لایو، گفت که X در ماه آوریل یک ویژگی جدید برای کاربران هندی برای مبارزه با اطلاعات نادرست را معرفی کرد.
به گفته X، ویژگی یادداشتهای انجمن آن برای مبارزه با اطلاعات نادرست طراحی شده است و از کاربرانی با پیشینههای مختلف دعوت میکند تا به عنوان نویسندگان یادداشتها در تنظیم رکورد مشارکت کنند.
اما Rebelo گفت که نویسندگان یادداشتهای مختلف اغلب با یکدیگر تناقض دارند و سردرگمی بیشتری ایجاد میکند زیرا هیچ اجماع واضحی در مورد صحت پست مورد نظر ایجاد نمیشود.
او گفت: “اطلاعات نادرست زیادی روی آن یادداشت هایی دارند، اما ظاهر نمی شوند زیرا سایر مشارکت کنندگان با آن موافق نیستند. X باید راهی برای حل این موضوع پیدا کند زیرا در غیر این صورت هدف یادداشت های انجمن را نادیده می گیرد.”
بنیاد تامسون رویترز دریافت که یک ویدیوی جعلی ارزان قیمت از Mallikarjun Kharge، رئیس کنگره اپوزیسیون، را میتوان در X یافت و علیرغم اینکه توسط وبسایتهای حقیقتسنجی افشا شده بود، هیچ یادداشتی روی آن نداشت.
در این فیلم با برچسب اشتباه که 43000 بار مشاهده شده، به نظر می رسد خارگ می گوید که حزب او ثروت هندوها را بین مسلمانان اقلیت تقسیم خواهد کرد.
تهدید گسترده تر
Garimella گفت، حتی زمانی که ویدیوهای اصلاح شده توسط پلتفرم های رسانه های اجتماعی به عنوان جعلی برچسب گذاری شده اند، اغلب همچنان بدون وقفه در برنامه های پیام رسانی مانند WhatApp پخش می شوند.
Garimella گفت: “چهل درصد از محتوای ویروسی که ارسال می شود قبلاً بارها بررسی شده است، اما این مانع از گسترش آن نشده است زیرا هیچ تعدیلی در برنامه پیام رسانی وجود ندارد.”
او گفت: «این به ما میگوید که مردم ممکن است آگاه نباشند (جعلی است)،» و هشدار داد که بدون کنترلهای سخت توسط پلتفرمها احتمالاً ادامه خواهد یافت.
پیش از انتخابات، متا، که واتساپ را در اختیار دارد، خط کمکی برای بررسی حقایق در برنامه با اتحاد مبارزه با اطلاعات غلط (MCA) راهاندازی کرد تا با اطلاعات نادرست تولید شده توسط هوش مصنوعی در هند مبارزه کند.
پامپوش راینا، رئیس واحد تجزیه و تحلیل Deepfake MCA گفت: بیشتر محتوای پرچمگذاریشده به خط کمک با استفاده از روشهای ساده، نه ابزارهای مبتنی بر هوش مصنوعی، دستکاری شدهاند.
سینها گفت، اما هشدار درباره دیپ فیک ممکن است پلتفرم ها را از تهدید گسترده تر اطلاعات نادرست منحرف کند.
او گفت: «ما به ندرت هیچ ویدیوی دیپفیکی را ندیدهایم که اطلاعات نادرست را منتشر کند… اما (رسانههای اجتماعی) پول و منابع خود را برای پاک کردن دیپفیکها صرف کرد. باید بازار را بهتر بررسی میکرد.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید