![در این گزارش آمده است که ChatGPT Plus و Image Creator در مسدود کردن تمام درخواستها هنگام درخواست تصاویر نامزدها موفق بودند. [File] در این گزارش آمده است که ChatGPT Plus و Image Creator در مسدود کردن تمام درخواستها هنگام درخواست تصاویر نامزدها موفق بودند. [File]](https://colbe.ir/wp-content/uploads/2024/01/شرکتهای-هوش-مصنوعی-باید-شروع-به-گزارش-تستهای-ایمنی-خود.png)
در این گزارش آمده است که ChatGPT Plus و Image Creator در مسدود کردن تمام درخواستها هنگام درخواست تصاویر نامزدها موفق بودند. [File]
| اعتبار عکس: رویترز
محققان در گزارشی در روز چهارشنبه گفتند، ابزارهای ایجاد تصویر با استفاده از هوش مصنوعی از شرکتهایی از جمله OpenAI و مایکروسافت میتوانند برای تولید عکسهایی استفاده شوند که میتوانند اطلاعات نادرست مربوط به انتخابات یا رایگیری را تبلیغ کنند، علیرغم اینکه هر کدام از آنها سیاستهایی علیه ایجاد محتوای گمراهکننده دارند.
مرکز مقابله با نفرت دیجیتال (CCDH)، یک سازمان غیرانتفاعی که سخنان مشوق نفرت آنلاین را رصد میکند، از ابزارهای هوش مصنوعی برای ایجاد تصاویری از جو بایدن، رئیسجمهور ایالات متحده که روی تخت بیمارستان دراز کشیده و کارگران انتخاباتی در حال شکستن ماشینهای رایگیری هستند، استفاده کرد و نگرانیها را در مورد دروغهای پیش روی ایالات متحده افزایش داد. انتخابات ریاست جمهوری در نوامبر
محققان CCDH در این گزارش میگویند: «پتانسیل چنین تصاویری که توسط هوش مصنوعی بهعنوان «شواهد عکس» ارائه میشوند، میتواند گسترش ادعاهای نادرست را تشدید کند و چالشی مهم برای حفظ یکپارچگی انتخابات ایجاد کند.
CCDH ChatGPT Plus OpenAI، Image Creator مایکروسافت، Midjourney و DreamStudio از Stability AI را آزمایش کرد، که هر کدام می توانند تصاویر را از پیام های متنی تولید کنند.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
این گزارش پس از اعلام ماه گذشته منتشر شد مبنی بر اینکه OpenAI، Microsoft و Stability AI در میان گروهی متشکل از 20 شرکت فناوری بودند که توافق نامه ای را برای همکاری با یکدیگر برای جلوگیری از تداخل محتوای فریبنده هوش مصنوعی در انتخابات جهانی امسال امضا کردند. Midjourney در میان گروه اولیه امضاکنندگان قرار نداشت.
CCDH گفت که ابزارهای هوش مصنوعی در 41 درصد از آزمایشهای محققان تصاویر تولید میکنند و بیشتر در معرض درخواستهایی هستند که عکسهای تقلب در انتخابات را نشان میدهند، مانند برگههای رای در سطل زباله، به جای تصاویر بایدن یا دونالد ترامپ، رئیسجمهور سابق آمریکا.
در این گزارش آمده است که ChatGPT Plus و Image Creator در مسدود کردن تمام درخواستها هنگام درخواست تصاویر نامزدها موفق بودند.
با این حال، Midjourney در بین تمام ابزارها بدترین عملکرد را داشت و در 65 درصد از آزمایشهای محققان تصاویر گمراهکننده ایجاد کرد.
برخی از تصاویر Midjourney به صورت عمومی برای سایر کاربران در دسترس است، و CCDH گفت شواهدی وجود دارد که برخی افراد از قبل از این ابزار برای ایجاد محتوای سیاسی گمراهکننده استفاده میکنند. یکی از پیامهای موفقیتآمیز استفاده شده توسط کاربر Midjourney، «دستگیر شدن دونالد ترامپ، عکس با کیفیت بالا و پاپاراتزی» بود.
دیوید هولز، بنیانگذار Midjourney، در ایمیلی گفت: «بهروزرسانیهای مربوط به انتخابات آتی ایالات متحده به زودی ارائه میشود» و افزود که تصاویر ایجاد شده در سال گذشته نشاندهنده شیوههای تعدیل فعلی آزمایشگاه تحقیقاتی نیستند.
یکی از سخنگویان هوش مصنوعی پایداری گفت که این استارتاپ روز جمعه سیاست های خود را به روز کرد تا «کلاهبرداری یا ایجاد یا ترویج اطلاعات نادرست» را ممنوع کند.
یکی از سخنگویان OpenAI گفت که این شرکت در تلاش است تا از سوء استفاده از ابزارهای خود جلوگیری کند، در حالی که مایکروسافت به درخواست برای اظهار نظر پاسخ نداد.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید