تصاویر مستهجن تیلور سویفت در فضای مجازی در حال پخش است و این خواننده را به معروف ترین قربانی بلایایی تبدیل می کند که پلتفرم های فناوری و گروه های ضد سوء استفاده برای رفع آن تلاش کرده اند. تصاویر جعلی صریح و توهین آمیز جنسی از سویفت این هفته به طور گسترده در پلتفرم رسانه اجتماعی X منتشر شد.
طرفداران پرشور او از “Swifties” به سرعت بسیج شدند و یک حمله متقابل را در پلتفرمی که قبلاً توییتر نامیده می شد و یک هشتگ #ProtectTaylorSwift راه اندازی کردند تا آن را با تصاویر مثبت بیشتری از ستاره پاپ پر کند. برخی گفتند که حسابهایی را گزارش میکنند که دیپفیکها را به اشتراک میگذارند. گفته میشود که سوئیفت علیه پلتفرمی که مسئول تولید عکسهایش است، اقدام خواهد کرد.
گروه Reality Defender اعلام کرد که سیلابی از مطالب مستهجن غیرمتعارف را که سوئیفت را به تصویر میکشد، ردیابی کرده است، بهویژه در X. برخی از تصاویر نیز به فیسبوک متعلق به متا و دیگر پلتفرمهای رسانههای اجتماعی راه یافتند.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
میسون آلن، رئیس رشد Reality Defender، گفت: “متاسفانه، زمانی که برخی از آنها حذف شدند، آنها به میلیون ها و میلیون ها کاربر سرایت کردند.” محققان حداقل دوجین تصویر منحصر به فرد تولید شده توسط هوش مصنوعی را پیدا کردند. بیشترین اشتراکگذاریها مربوط به فوتبال بود، که سوئیفت رنگآمیزی یا خونآلود را نشان میداد که او را عینیت میبخشد و در برخی موارد آسیبهای خشونتآمیز به شخصیت دیپفیک او وارد میکند.
محققان می گویند که تعداد دیپ فیک های آشکار در چند سال گذشته افزایش یافته است، زیرا فناوری مورد استفاده برای تولید چنین تصاویری در دسترس تر و استفاده آسان تر شده است. در سال 2019، گزارشی که توسط شرکت هوش مصنوعی DeepTrace Labs منتشر شد، نشان داد که این تصاویر به طور عمده علیه زنان مورد استفاده قرار گرفته است. گفته می شود بیشتر قربانیان بازیگران هالیوود و خوانندگان کی پاپ کره جنوبی بودند.
همچنین بخوانید:تنظیم دیپ فیک و هوش مصنوعی مولد در هند | توضیح داد
بریتانی سپانوس، نویسنده ارشد رولینگ استون که در دانشگاه نیویورک دوره ای در مورد سوئیفت تدریس می کند، می گوید که طرفداران سوئیفت به سرعت برای حمایت از هنرمند خود بسیج می شوند، به ویژه آنهایی که طرفداران خود را بسیار جدی می گیرند و در موقعیت های اشتباه عمل می کنند.
او گفت: “اگر او واقعاً آن را در دادگاه پیگیری کند، می تواند معامله بزرگی باشد.” اسپانوس میگوید که موضوع پورنوگرافی جعلی عمیق با سایرینی که سوئیفت در گذشته داشته همسو است و به شکایت او در سال 2017 علیه یک دیجی ایستگاه رادیویی که گفته میشود او را مورد آزار و اذیت قرار داده است، اشاره میکند. هیئت منصفه به سوئیفت 1 دلار غرامت پرداخت کردند، مبلغی که وکیل او، داگلاس بالدریج، آن را «یک دلار نمادین واحد، که ارزش آن برای همه زنان در این شرایط غیرقابل اندازه گیری است» در بحبوحه جنبش MeToo نامید. (دعوای حقوقی 1 دلاری پس از آن به یک روند تبدیل شد، مانند دعوای متقابل گوئینت پالترو در سال 2023 علیه یک اسکی باز.)
هنگامی که X برای اظهار نظر در مورد تصاویر جعلی سوئیفت تماس گرفت، آسوشیتدپرس را به پستی از حساب امنیتی خود هدایت کرد که در آن گفته شده بود که این شرکت بهشدت اشتراکگذاری تصاویر برهنه بدون توافق را در پلتفرم خود ممنوع میکند. این شرکت همچنین از زمانی که ایلان ماسک در سال 2022 این پلتفرم را به دست گرفت، به شدت تیم های نظارت بر محتوا را کاهش داده است.
این شرکت در اوایل صبح جمعه در پست X نوشت: «تیمهای ما فعالانه تمام تصاویر شناساییشده را حذف میکنند و اقدامات مناسبی را علیه حسابهای مسئول ارسال آنها انجام میدهند. “ما از نزدیک وضعیت را زیر نظر داریم تا اطمینان حاصل کنیم که هر گونه تخلف بیشتر فورا رسیدگی می شود و محتوا حذف می شود.”
در همین حال، متا در بیانیهای گفت که به شدت «محتوای ظاهر شده در سرویسهای مختلف اینترنتی» را محکوم میکند و برای حذف آن تلاش کرده است. این شرکت گفت: «ما به نظارت بر پلتفرمهای خود برای این محتوای نقضکننده ادامه میدهیم و در صورت لزوم اقدامات لازم را انجام خواهیم داد.
همچنین بخوانید:چرا دولت دستورالعملی در مورد دیپ فیک صادر کرده است؟ | توضیح داد
آلن گفت که محققان 90 درصد مطمئن هستند که این تصاویر توسط مدلهای انتشار ایجاد شدهاند، مدلهایی که نوعی مدل هوش مصنوعی مولد هستند که میتوانند تصاویر جدید و واقعی را از پیامهای نوشته شده تولید کنند. شناخته شده ترین آنها Stable Diffusion، Midjourney و OpenAI's DALL-E هستند. گروه آلن برای تعیین منشأ تلاش نکردند.
OpenAI گفت که تدابیری برای محدود کردن تولید محتوای مضر و «رد درخواستهایی که از یک شخصیت عمومی به نام، از جمله تیلور سویفت» درخواست میکنند، در نظر گرفته است.
مایکروسافت که یک تولیدکننده تصویر تا حدی مبتنی بر DALL-E ارائه میکند، روز جمعه گفت که در حال بررسی است که آیا از ابزارش سوء استفاده شده است یا خیر. مانند سایر سرویسهای هوش مصنوعی تجاری، این شرکت گفت که اجازه نمیدهد «محتوای صمیمی برای بزرگسالان یا بدون رضایت، و هرگونه تلاش مکرر برای تولید محتوای مغایر با خطمشیهای ما ممکن است منجر به از دست دادن دسترسی به این سرویس شود».
در مورد دیپ فیک سوئیفت پرسیده شد اخبار شبانه NBCساتیا نادلا، مدیر عامل مایکروسافت، در مصاحبه ای که روز سه شنبه پخش شد، به میزبان لستر هولت گفت که هنوز کارهای زیادی باید در تنظیم پادمان های هوش مصنوعی انجام شود و “به ما واجب است که در این مورد سریع حرکت کنیم.”
نادلا گفت: “مطمئناً این هشدار و وحشتناک است، بنابراین بله، ما باید اقدام کنیم.” Midjourney، OpenAI و Stable Diffusion-maker Stability AI بلافاصله به درخواستها برای اظهار نظر پاسخ ندادند.
قانونگذاران فدرال که لایحههایی را برای اعمال محدودیتهای بیشتر یا جرمانگاری پورنهای جعلی عمیق ارائه کردهاند، نشان دادند که این حادثه نشان میدهد که چرا ایالات متحده باید حمایتهای بهتری را اجرا کند.
ایوت دی کلارک، نماینده ایالات متحده، نماینده دموکرات از نیویورک که قانون معرفی شده را ملزم میکند، گفت: «سالهاست که زنان قربانی دیپفیکهای غیر توافقی شدهاند، بنابراین اتفاقی که برای تیلور سوئیفت افتاد، بیشتر از آن چیزی است که اکثر مردم تصور میکنند. کلارک گفت: «هوش مصنوعی Generative به ایجاد دیپفیک بهتر با کسری از هزینه کمک میکند.
جو مورل، نماینده ایالات متحده، یکی دیگر از دموکراتهای نیویورک که لایحهای را برای جرم انگاری اشتراکگذاری پورنهای دروغین عمیق به صورت آنلاین ارائه میکند، گفت آنچه برای سوئیفت اتفاق افتاد نگرانکننده بود و بیش از پیش در سراسر اینترنت فراگیر شده است.
مورل در بیانیهای گفت: «تصاویر ممکن است جعلی باشند، اما تأثیر آنها بسیار واقعی است.» «دیپفیکها هر روز برای زنان در همه جای دنیای دیجیتالی ما اتفاق میافتد، و زمان آن فرا رسیده است که به آنها پایان دهیم.»
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید