![عکس فایل: پس از اینکه چندین کاربر نمونههایی از Jemini را به اشتراک گذاشتند که از تولید تصاویر سفیدپوستان امتناع میکرد، گوگل به دلیل فرهنگ آشکارا عکس فایل: پس از اینکه چندین کاربر نمونههایی از Jemini را به اشتراک گذاشتند که از تولید تصاویر سفیدپوستان امتناع میکرد، گوگل به دلیل فرهنگ آشکارا](https://colbe.ir/wp-content/uploads/2024/01/شرکتهای-هوش-مصنوعی-باید-شروع-به-گزارش-تستهای-ایمنی-خود.png)
عکس فایل: پس از اینکه چندین کاربر نمونههایی از Jemini را به اشتراک گذاشتند که از تولید تصاویر سفیدپوستان امتناع میکرد، گوگل به دلیل فرهنگ آشکارا “بیدار” خود مورد انتقاد قرار گرفت. | اعتبار عکس: رویترز
پس از اینکه چندین کاربر در پلتفرم میکروبلاگینگ X نمونه هایی از چت ربات Gemini خود را به اشتراک گذاشتند که ظاهراً از تولید تصاویر افراد سفیدپوست خودداری می کرد، گوگل به دلیل فرهنگ آشکارا “بیدار” خود مورد انتقاد قرار گرفت. به حدی که حتی برای اعلانهایی مانند «پدران بنیانگذار آمریکا» یا «پاپ» یا «وایکینگ»، چت بات فقط افراد رنگین پوست را به تصویر میکشید که نتایج را واقعاً نادرست میکردند.
حتی زمانی که جمینی با درخواستهایی که مشخصاً تصویری از جمله «یک خانواده سفیدپوست» را درخواست میکرد، پاسخ داد که «نمیتواند تصاویری تولید کند که قومیت یا نژاد خاصی را مشخص کند». اما وقتی از یک خانواده سیاه پوست خواسته شد، به راحتی آنها را ارسال کرد. دیگران تصاویری از این ربات ارسال کردند که آشکارا از تولید تصاویر شخصیت های تاریخی مانند آبراهام لینکلن و گالیله امتناع می کند.
اقدامات شدید این ربات برای اصلاح سوگیری های قبلی در چت ربات های هوش مصنوعی، انتقاد بسیاری از بخش های مختلف جامعه فناوری را برانگیخته است. «تصاویر مضحک تولید شده توسط Gemini یک ناهنجاری نیست. پل گراهام، یکی از بنیانگذاران شتابدهنده استارتاپی در سیلیکون ولی، Y Combinator، گفت: آنها تصویری از فرهنگ سازمانی بوروکراتیک گوگل هستند.
آنا موستاراک، رئیس عملیات Mubadala Ventures در توییتی نوشت: ماموریت گوگل «از سازماندهی صرف اطلاعات جهان به پیشبرد یک دستور کار خاص تغییر کرده است».
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
کارمندان سابق و فعلی این شرکت، مدیریت ارشد را به اختلاط ایدئولوژی سیاسی با فناوری سرزنش می کنند. یک مهندس تحقیقات سابق در Google DeepMind، الکسا گوردیک در طول تجربه خود در X در مورد این فرهنگ فراگیر صحبت کرد و گفت که ترس دائمی از توهین به سایر کارمندان آنلاین وجود دارد. او در توییتی نوشت: «برای من خیلی ناراحت کننده بود که هیچ یک از رهبری ارشد DeepMind جرات زیر سوال بردن این ایدئولوژی را نداشتند.
اواخر دیروز، جک کراچیک، مدیر ارشد محصولات گوگل، گفت که تیم در حال کار برای تصحیح خطاهای Gemini است. ما به عنوان بخشی از اصول هوش مصنوعی خود، قابلیتهای تولید تصویر خود را طوری طراحی میکنیم که پایگاه کاربران جهانی خود را منعکس کند، و نمایش و تعصب را جدی میگیریم. ما به انجام این کار برای درخواستهای پایان باز ادامه خواهیم داد. زمینههای تاریخی تفاوتهای ظریف بیشتری با آنها دارند و ما برای تطبیق با آن بیشتر تنظیم خواهیم کرد. این بخشی از فرآیند هم ترازی است – تکرار در بازخورد،” او توییت کرد.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید