خوب یا بد، OpenAI به رهبری سام آلتمن تقریبا همیشه در سرفصل اخبار قرار دارد. سال گذشته، آلتمن از شرکت اخراج شد و چند روز بعد دوباره منصوب شد. اخیراً، یک استارتاپ داغ هوش مصنوعی که گفته میشود از صدای اسکارلت جوهانسون بازیگر برای حالت مکالمه جدید در GPT-4o بدون رضایت او استفاده میکند، به شدت سر و صدا کرده است.
در حالی که این جنجال هنوز فروکش نکرده است، OpenAI اینترنت را به دلایل نادرست و دوباره از نو به دام انداخته است. اکنون، اعضای سابق هیئت مدیره OpenAI دلایل واقعی اخراج آلتمن در گذشته را آشکار کردهاند و به این موضوع اشاره کردهاند که چرا باید به همین شکل باقی میماند.
از غیر انتفاعی به انتفاعی؟
بنابراین، OpenAI به عنوان یک سازمان غیرانتفاعی شروع به کار کرد، با چشم انداز قابل دسترسی و سودمند کردن AGI (هوش عمومی مصنوعی) برای بشریت. در حالی که در نهایت یک واحد سودآور برای دریافت بودجه مورد نیاز داشت، این ماهیت غیرانتفاعی بود که بر اخلاق شرکت حاکم بود.
با این حال، تحت رهبری آلتمن، چشم انداز سودآوری به جای آن شروع به کار کرد. این چیزی است که اعضای سابق هیئت مدیره، هلن تونر و تاشا مک کاولی پیشنهاد می کنند. یک جدید انحصاری مصاحبه تونر در TED AI Show در اینترنت در حال چرخش است.
تونر می گوید،
زمانی که ChatGPT در نوامبر 2022 منتشر شد، هیئت مدیره از قبل در مورد آن مطلع نشده بود. ما در مورد ChatGPT در توییتر یاد گرفتیم. سام به هیئت مدیره اطلاع نداد که او صاحب صندوق راه اندازی OpenAI است، حتی با وجود اینکه مدام ادعا می کرد که عضو هیئت مدیره مستقلی است که هیچ منفعت مالی در شرکت ندارد.
این مانند یک کامیون برخورد می کند، به خصوص که ChatGPT اساساً نقطه عطف هرج و مرج هوش مصنوعی است که امروز شاهد آن هستیم. پنهان ماندن چنین افشاگری مهمی از خود اعضای هیئت مدیره غیرقابل انکار است.
او در ادامه بیان می کند که آلتمن هیئت مدیره را با “اطلاعات نادرست” در “موارد متعدد” تغذیه کرد، فرآیندهای ایمنی را که در پشت سیستم های هوش مصنوعی این شرکت در حال کار بودند، پنهان می کند. در نتیجه، برد OpenAI کاملاً از عملکرد این فرآیندهای ایمنی کاملاً غافل بود در وهله اول. پادکست کامل را می توانید از اینجا بشنوید.
![ChatGPT-4o](https://colbe.ir/wp-content/uploads/2024/05/چرا-سم-آلتمن-از-OpenAI-اخراج-شد؟-این-جزئیات-جدید.jpg)
هیچ ایمنی برای ماشه AI
ساختن مسئولانه هوش مصنوعی باید همیشه یکی از اولویتهای شرکتها باشد، به خصوص که ممکن است همه چیز به طرز وحشتناکی اشتباه پیش برود. این چیزی نیست که من می گویم، و به طور طعنه آمیزی مستقیماً از دهان آلتمن می آید.
مهمتر از همه، این شگفت انگیز است با جنبه داستانی ماسک همخوانی دارد. چندی پیش، ایلان ماسک از OpenAI شکایت کرد و ادعا کرد که این شرکت ماموریت اصلی خود را رها کرده و اکنون سود محور شده است.
در مصاحبه با اقتصاد داناعضای سابق هیئت مدیره اظهار داشتند که نگرانی آنها در مورد چگونگی بازگشت سام آلتمن منجر به این شد خروج استعدادهای متمرکز بر ایمنی، باعث می شود که سیاست های خودگردانی OpenAI ضربه جدی بخورد.
آنها نیز به این اعتقاد دارند باید مداخله دولت برای هوش مصنوعی وجود داشته باشد مسئولانه ساخته شود. به دنبال این جنجال، OpenAI اخیرا یک کمیته ایمنی و امنیت تشکیل داد و بیان کرد که “این کمیته جدید مسئول ارائه توصیه هایی در مورد تصمیمات ایمنی و ایمنی حیاتی برای همه پروژه های OpenAI است. توصیه ها در 90 روز.
و حدس بزنید چه؟ این کمیته حیاتی شامل سم آلتمن نیز می شود. در حالی که من نمی خواهم همه اتهامات را باور کنم، اگر آنها درست باشند، ما در مشکل جدی هستیم. فکر نمی کنم هیچ یک از ما بخواهیم اسکای نت به واقعیت تبدیل شود.
علاوه بر این، یک هفته پیش، یان لیک، رئیس مشترک Superalignment در OpenAI به دلیل نگرانی های ایمنی استعفا داد و اکنون به شرکت رقیب آنتروپیک پیوسته است. با این حال، او بیصدا آنجا را ترک نکرد و جنبههای داستانی خود را با جزئیات روی دسته X خود انداخت.
از همه چیزهایی که گفت، “OpenAI باید اولین شرکت AGI با ایمنی باشد.” یکی دیگر از قرص های سخت برای بلعیدن بود، زیرا به وضوح نشان می دهد که شرکت در حال حاضر در مسیر درستی قرار ندارد.
او همچنین بر این واقعیت تأکید می کند که ما واقعاً نیاز داریم تا دست و پنجه نرم کنیم و “دریابید که چگونه سیستم های هوش مصنوعی را بسیار هوشمندتر از ما هدایت و کنترل کنید.” با این حال، این همه دلیل ترک لیک نیست. او همچنین نوشت،
طی چند ماه گذشته تیم من برخلاف باد حرکت کرده است. گاهی اوقات ما برای محاسبات دست و پنجه نرم میکردیم و انجام این تحقیق حیاتی سختتر و سختتر میشد.
خروجی سمی برای کارمندان
در حالی که تونر و سایر افراد سابق OpenAI اخیراً حقایق تکان دهنده ای را در مورد این شرکت فاش کرده اند، آنها همچنین پیشنهاد می کنند که “نمی توانند همه چیز را بگویند”.
هفته گذشته، الف واکس این گزارش نشان داد که چگونه کارمندان سابق OpenAI مجبور به امضای قراردادهای شدید عدم افشا و عدم تحقیر شدند، که نقض آن منجر به از دست دادن تمام سهام اختصاص یافته در شرکت می شود. ما در اینجا میلیونها نفر صحبت میکنیم، و فکر نمیکنم کسی بخواهد آن را از دست بدهد.
به طور خاص، این توافق کارمندان سابق OpenAI را از انتقاد از شرکت و گفتگو با رسانه ها باز می دارد. در حالی که آلتمن به X گفت که از این بند در NDA OpenAI اطلاعی ندارد، فکر نمیکنم کسی آن را بخرد.
حتی اگر نظر آلتمن را در نظر بگیریم، همچنان نشان میدهد که بدن مهمی مانند OpenAI چقدر بیسازمان است، که تنها هدف همه آن اتهامات را بیشتر ثابت میکند.
آیا آینده هوش مصنوعی در دستان اشتباه است؟
مایه تاسف است که هیئت مدیره ای که با چشم انداز شرکت دست به دست هم داد، اکنون مخالف آن است. اگرچه ممکن است ارتباطی با اخراج آلتمن پس از بازگشت به شرکت نداشته باشد، اما اگر این اتهامات را باور کنیم، کاملاً ترسناک هستند.
ما چندین فیلم و برنامه تلویزیونی داریم که نشان می دهد هوش مصنوعی چگونه می تواند به دست بیاورد از دست. علاوه بر این، تنها OpenAI برای دستیابی به AGI نیست. غول های صنعتی مانند گوگل دیپ مایند و مایکروسافت نیز تقریباً به تمام محصولات و خدمات خود هوش مصنوعی تزریق می کنند. Google I/O امسال حتی به طرز خندهداری تعداد دفعات را فاش کرد هوش مصنوعی در طول رویداد، که بیش از 120 بار است، بیان شد.
هوش مصنوعی روی دستگاه قدم بزرگ بعدی به جلو است و ما در حال حاضر شاهد اجرای برخی از آن با ویژگی Recall برای رایانه های شخصی Copilot Plus نسل بعدی هستیم. این موضوع نگرانیهای زیادی در مورد حفظ حریم خصوصی ایجاد کرد، زیرا این ویژگی به طور فعال از صفحه نمایش عکس میگیرد تا یک نمایه برداری محلی ایجاد کند.
به عبارت دیگر، چه بخواهید چه نخواهید هوش مصنوعی اینجاست که بماند. با این حال، آنچه واقعاً مهم است این است که ما چقدر مسئولانه هوش مصنوعی را توسعه داده و از آن استفاده می کنیم، و اطمینان حاصل می کنیم که به جای اینکه بر ما حکومت کند، به ما خدمت می کند. آیا آینده هوش مصنوعی در دستان اشتباه است؟ مخصوصاً زمانی که آزمایشگاههای هوش مصنوعی قدرت و دادههای بیشتری را به آن نمیدهند، و هوش مصنوعی اکنون چندوجهی است تا به شما یادآوری کند.
نظر شما در مورد این افشاگری های جدید چیست؟ آیا مثل من خواب شبانه شما را می گیرند؟ نظر خود را در نظرات زیر با ما در میان بگذارید.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید