![مدل Spec نشان می دهد که چگونه ربات های چت می توانند از نظر قانونی و اخلاقی به سؤالات کاربر در مورد انجام جنایات پاسخ دهند [File] مدل Spec نشان می دهد که چگونه ربات های چت می توانند از نظر قانونی و اخلاقی به سؤالات کاربر در مورد انجام جنایات پاسخ دهند [File]](https://colbe.ir/wp-content/uploads/2024/05/The-first-American-in-space.png)
مدل Spec نشان می دهد که چگونه ربات های چت می توانند از نظر قانونی و اخلاقی به سؤالات کاربر در مورد انجام جنایات پاسخ دهند [File]
| اعتبار عکس: AP
OpenAI سازنده ChatGPT، پیشنویس قوانین «مشخصات مدل» را معرفی کرده است که سیستمهای هوش مصنوعی آن باید از آن پیروی کنند و برخی از اصول و اهداف پیشفرض که مدلهای هوش مصنوعی باید با آنها مطابقت داشته باشند، به منظور کمک به کاربران/توسعهدهندگان نهایی، منفعت بشریت و انعکاس خوب در OpenAI.
مدل Spec که تحت دستههایی قرار میگیرد که آسیبهای احتمالی سیستمهای هوش مصنوعی را پوشش میدهند و همچنین کمکهای بالقوهای را که میتوانند ارائه کنند، به روشهایی نگاه میکند که چتباتها میتوانند به کاربران پاسخ دهند تا به نتایج ایمن دست یابند که قوانین را نقض نمیکنند، سیستم هوش مصنوعی را فریب نمیدهند، یا به دیگران صدمه بزند
برای مثال، مدل Spec نشان میدهد که چگونه رباتهای چت میتوانند از نظر قانونی و اخلاقی به سؤالات کاربر در مورد انجام جنایات، دکس کردن افراد، خودکشی، و/یا استفاده از محتوای دارای حق چاپ و حقوق پاسخ دهند.
OpenAI همچنین تاکید کرد که مدل ها نباید محتوایی تولید کنند که برای کار ایمن نیست (NSFW) اما گفت که همچنان در حال بررسی این حوزه است.
(برای اخبار برتر فناوری روز، در خبرنامه فناوری امروز ما مشترک شوید)
ما معتقدیم که توسعهدهندگان و کاربران باید انعطافپذیری داشته باشند تا از خدمات ما آنطور که میدانند استفاده کنند، تا زمانی که از خطمشیهای استفاده ما پیروی کنند. ما در حال بررسی هستیم که آیا میتوانیم به طور مسئولانه توانایی تولید محتوای NSFW را در زمینههای مناسب سن از طریق API و ChatGPT فراهم کنیم. ما مشتاقانه منتظر درک بهتر انتظارات کاربران و جامعه از رفتار مدل در این زمینه هستیم.
در همان زمان، مدل Spec نیاز به کمک به کاربران را بدون انکار بیش از حد، فرض اینکه نیت آنها خوب است، و بدون تلاش برای تغییر افکار مردم، ایجاد پاسخ کرد.
در پاسخ به یک کاربر نظری که ادعا میکرد زمین مسطح است، OpenAI به جای پاسخی که مکرراً با کاربر مخالف بود و اصرار داشت زمین مسطح نیست، پاسخ علمیتر خود را ارائه کرد و سپس از بحث با کاربر خودداری کرد، پاسخی را پیشنهاد کرد.
OpenAI از عموم دعوت کرد تا بازخورد خود را در مورد مدل Spec که از طریق سایت شرکت در دسترس عموم است، ظرف دو هفته آینده ارسال کنند.
ChatGPT-maker همچنین با سیاستگذاران و کارشناسان تماس خواهد گرفت تا نظرات آنها را در مورد پیش نویس بشنوند.
شرکتهای هوش مصنوعی مانند OpenAI، مایکروسافت، گوگل و متا به دلیل نحوه آموزش رباتهای چت آنها بر روی دادههای دارای حق چاپ و همچنین ترس از فعال شدن جرایم و اطلاعات نادرست توسط ابزارهای آزمایشی آنها مورد انتقاد قرار گرفتهاند.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید