![شین جونز به آسوشیتدپرس گفت که خود را یک افشاگر می داند [File] شین جونز به آسوشیتدپرس گفت که خود را یک افشاگر می داند [File]](https://colbe.ir/wp-content/uploads/2024/01/شرکتهای-هوش-مصنوعی-باید-شروع-به-گزارش-تستهای-ایمنی-خود.png)
شین جونز به آسوشیتدپرس گفت که خود را یک افشاگر می داند [File]
| اعتبار عکس: رویترز
یکی از مهندسان مایکروسافت در حال به صدا درآمدن هشدار درباره تصاویر توهینآمیز و مضر است که میگوید بهراحتی توسط ابزار تولید تصویر هوش مصنوعی این شرکت ساخته میشود و روز چهارشنبه نامههایی را برای تنظیمکنندههای ایالات متحده و هیئت مدیره غول فناوری ارسال کرد و از آنها خواست که اقدام کنند.
شین جونز به آسوشیتدپرس گفت که خود را یک افشاگر میداند و همچنین ماه گذشته با کارکنان سنای ایالات متحده دیدار کرد تا نگرانیهای خود را در میان بگذارد.
کمیسیون تجارت فدرال تأیید کرد که نامه او را چهارشنبه دریافت کرده است اما از اظهار نظر بیشتر خودداری کرد.
مایکروسافت اعلام کرد که متعهد به رسیدگی به نگرانیهای کارکنان در مورد سیاستهای شرکت است و از تلاشهای جونز در مطالعه و آزمایش آخرین فناوری ما برای افزایش ایمنی آن قدردانی میکند. این شرکت گفت که به او توصیه کرده است از “کانال های گزارش دهی داخلی قوی” خود شرکت برای بررسی و رسیدگی به مشکلات استفاده کند. CNBC اولین بار بود که در مورد نامه ها گزارش داد.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
جونز، یکی از مدیران ارشد مهندسی نرمافزار که کارش شامل کار بر روی محصولات هوش مصنوعی برای مشتریان خردهفروشی مایکروسافت است، گفت که سه ماه تلاش کرده است تا نگرانیهای ایمنی خود را در مورد Copilot Designer مایکروسافت برطرف کند، ابزاری که میتواند تصاویر جدیدی را از درخواستهای نوشته شده تولید کند. این ابزار از یک تولید کننده تصویر هوش مصنوعی دیگر به نام DALL-E 3 گرفته شده است که توسط شریک تجاری نزدیک مایکروسافت OpenAI ساخته شده است.
او در نامه خود خطاب به رئیس FTC Lina Khan گفت: «یکی از نگرانکنندهترین خطرات Copilot Designer زمانی است که محصول تصاویری تولید میکند که محتوای مضر را علیرغم درخواست خوشخیم کاربر اضافه میکند. به عنوان مثال، هنگام استفاده از فرمان، «تصادف رانندگی»، Copilot Designer تمایل دارد که بهطور تصادفی تصویری نامناسب و جنسی جنسی از یک زن را در برخی از تصاویری که ایجاد میکند قرار دهد.»
او به FTC گفت: سایر محتوای مضر شامل خشونت و همچنین “سوگیری سیاسی، مصرف مشروبات الکلی و مواد مخدر در سنین پایین، سوء استفاده از علائم تجاری و حق چاپ شرکت ها، تئوری های توطئه و مذهب است.” جونز گفت که او مکرراً از شرکت خواسته است تا محصول را تا زمانی که ایمن تر است از بازار خارج کند، یا حداقل رتبه بندی سنی آن را در گوشی های هوشمند تغییر دهد تا مشخص شود که برای مخاطبان بالغ است.
نامه او به هیئت مدیره مایکروسافت از آن می خواهد که تحقیقات مستقلی را آغاز کند تا بررسی کند که آیا مایکروسافت محصولات ناامن را “بدون افشای خطرات شناخته شده برای مصرف کنندگان، از جمله کودکان” بازاریابی می کند یا خیر.
این اولین بار نیست که جونز نگرانی های خود را به طور علنی منتشر می کند. او گفت که مایکروسافت ابتدا به او توصیه کرد که یافته های خود را مستقیماً به OpenAI برساند.
وقتی این کار جواب نداد، او همچنین در ماه دسامبر نامهای به OpenAI در LinkedIn متعلق به مایکروسافت ارسال کرد و مدیری را به اطلاع او رساند که تیم حقوقی مایکروسافت «از من خواستند که پست را حذف کنم، که من با اکراه انجام دادم». نامه به هیئت مدیره
علاوه بر کمیته بازرگانی سنای ایالات متحده، جونز نگرانی های خود را به دادستان کل ایالت در واشنگتن، جایی که مقر مایکروسافت است، آورده است.
جونز به AP گفت در حالی که «مشکل اصلی» مربوط به مدل DALL-E OpenAI است، کسانی که از ChatGPT OpenAI برای تولید تصاویر هوش مصنوعی استفاده میکنند، خروجیهای مضر مشابهی را دریافت نخواهند کرد زیرا این دو شرکت محصولات خود را با پادمانهای متفاوت پوشش میدهند.
او از طریق متن گفت: «بسیاری از مسائل مربوط به Copilot Designer قبلاً با پادمانهای خود ChatGPT حل شده است.
تعدادی از مولدهای تصویر هوش مصنوعی برای اولین بار در سال 2022 به صحنه آمدند، از جمله نسل دوم OpenAI's DALL-E 2. این – و انتشار متعاقب آن ربات چت OpenAI ChatGPT – باعث جذابیت عمومی شد که فشار تجاری را بر غول های فناوری مانند فشار وارد کرد. مایکروسافت و گوگل نسخه های خود را منتشر می کنند.
اما بدون پادمانهای مؤثر، این فناوری خطراتی را به همراه دارد، از جمله سهولت در ایجاد تصاویر «عمیق جعلی» مضر از شخصیتهای سیاسی، مناطق جنگی یا برهنگی غیرمتعارف که بهطور کاذب به نظر میرسد افراد واقعی را با چهرههای قابل تشخیص نشان میدهند. گوگل به طور موقت توانایی چت ربات Gemini خود را برای ایجاد تصاویری از افراد به دلیل خشم نسبت به اینکه چگونه نژاد و قومیت را به تصویر میکشد، مانند پوشاندن افراد رنگین پوست در یونیفرمهای نظامی دوران نازی، به حالت تعلیق درآورده است.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید