![متا از سال 2019 عکسهای نمایه اولیه تولید شده توسط هوش مصنوعی را در عملیات نفوذ پیدا کرده است [File] متا از سال 2019 عکسهای نمایه اولیه تولید شده توسط هوش مصنوعی را در عملیات نفوذ پیدا کرده است [File]](https://colbe.ir/wp-content/uploads/2024/05/Truecaller-introduces-AI-call-scanner-for-Android-users.png)
متا از سال 2019 عکسهای نمایه اولیه تولید شده توسط هوش مصنوعی را در عملیات نفوذ پیدا کرده است [File]
| اعتبار عکس: AP
متا روز چهارشنبه گفت که محتوای «احتمالاً تولید شده توسط هوش مصنوعی» را یافته است که به طور فریبنده در پلتفرمهای فیسبوک و اینستاگرام خود استفاده میشود، از جمله نظراتی که در زیر پستهای سازمانهای خبری جهانی و قانونگذاران آمریکایی منتشر شدهاند در تمجید از مدیریت اسرائیل در جنگ غزه.
این شرکت رسانههای اجتماعی، در یک گزارش امنیتی سهماهه، اعلام کرد که این حسابها با عنوان دانشجویان یهودی، آفریقایی آمریکایی و سایر شهروندان نگران، مخاطبان در ایالات متحده و کانادا را هدف قرار دادهاند. این کمپین را به شرکت بازاریابی سیاسی STOIC مستقر در تل آویو نسبت داد.
STOIC بلافاصله به درخواست برای اظهار نظر در مورد اتهامات پاسخ نداد.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
در حالی که متا از سال 2019 عکس های نمایه اولیه تولید شده توسط هوش مصنوعی را در عملیات نفوذ پیدا کرده است، این گزارش اولین گزارشی است که استفاده از فناوری AI مولد مبتنی بر متن را از اواخر سال 2022 فاش می کند.
محققان نگرانند که هوش مصنوعی مولد، که می تواند به سرعت و ارزان متن، تصاویر و صوت شبیه انسان تولید کند، می تواند منجر به کمپین های اطلاعات نادرست مؤثرتر شود و انتخابات را تحت تأثیر قرار دهد.
در یک تماس مطبوعاتی، مدیران امنیتی متا گفتند که کمپین اسرائیل را زود حذف کردهاند و فکر نمیکنند فناوریهای جدید هوش مصنوعی توانایی آنها را برای ایجاد اختلال در شبکههای نفوذ، که تلاشهای هماهنگ برای ارسال پیامها هستند، مختل کرده باشد.
مدیران گفتند که چنین شبکههایی را ندیدهاند که تصاویری واقعی از سیاستمداران ایجاد شده توسط هوش مصنوعی را بهاندازه کافی واقعبینانه به کار میبرند که برای عکسهای معتبر اشتباه گرفته شوند.
مثالهای متعددی در این شبکهها وجود دارد که نشان میدهد چگونه از ابزارهای مولد هوش مصنوعی برای تولید محتوا استفاده میکنند. شاید این به آنها این توانایی را میدهد که این کار را سریعتر یا با حجم بیشتری انجام دهند. اما واقعاً بر توانایی ما برای شناسایی آنها تأثیری نداشته است. مایک دویلیانسکی، رئیس تحقیقات تهدید متا گفت.
این گزارش شش عملیات نفوذ مخفی را که متا در سه ماهه اول مختل کرد، برجسته کرد.
علاوه بر شبکه STOIC، متا یک شبکه مستقر در ایران را با تمرکز بر درگیری اسرائیل و حماس تعطیل کرد، اگرچه هیچ استفاده ای از هوش مصنوعی مولد در آن کارزار شناسایی نکرد.
متا و سایر غولهای فناوری با نحوه رسیدگی به سوء استفاده احتمالی از فناوریهای جدید هوش مصنوعی، بهویژه در انتخابات، دست و پنجه نرم کردهاند.
محققان نمونههایی از تولیدکنندههای تصویر را از شرکتهایی از جمله OpenAI و مایکروسافت پیدا کردهاند که عکسهایی با اطلاعات نادرست مربوط به رایگیری تولید میکنند، علیرغم اینکه این شرکتها سیاستهایی علیه چنین محتوایی دارند.
این شرکتها بر سیستمهای برچسبگذاری دیجیتال برای علامتگذاری محتوای تولید شده توسط هوش مصنوعی در زمان ایجاد آن تاکید کردهاند، اگرچه این ابزارها روی متن کار نمیکنند و محققان در مورد اثربخشی آنها تردید دارند.
متا با آزمون های کلیدی دفاعی خود با برگزاری انتخابات در اتحادیه اروپا در اوایل ژوئن و در ایالات متحده در نوامبر مواجه است.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید