وزارت الکترونیک و فناوری اطلاعات هند (MeitY) اخیراً توصیهای به پلتفرمهای فناوری و واسطههای فعال در هند صادر کرده است تا از مقررات مندرج در قوانین فناوری اطلاعات، 2021 پیروی کنند. مشاوره جدید از شرکتهایی مانند Google، OpenAI و سایر شرکتهای فناوری میخواهد که «متعهد شوند. دقت لازم را انجام دهید و از انطباق اطمینان حاصل کنید ظرف 15 روز آینده.
در موارد جدید، وزارت فناوری اطلاعات از شرکت های فناوری خواسته است از دولت هند اجازه صریح دریافت کنید قبل از استقرار مدلهای هوش مصنوعی آزمایشنشده (و محصولات نرمافزاری توسعهیافته بر روی چنین مدلهایی) در هند.
در این توصیه نامه آمده است:استفاده از مدل(های) /LLM/Generative Al، نرم افزار(ها) یا الگوریتم(ها) تست نشده / غیر قابل اعتماد هوش مصنوعی و در دسترس بودن آن برای کاربران در اینترنت هند باید با مجوز صریح دولت هند انجام شود. و تنها پس از برچسب گذاری مناسب خطاپذیری یا غیرقابل اعتماد بودن احتمالی و ذاتی خروجی تولید شده به کار گرفته شود. علاوه بر این، مکانیسم بازشو رضایت ممکن است برای اطلاع صریح کاربران در مورد خطاپذیری یا غیرقابل اعتماد بودن احتمالی و ذاتی خروجی تولید شده استفاده شود.”
اگرچه این مشاوره از نظر قانونی برای پلتفرم ها و واسطه ها الزام آور نیست، اما انتقاد شرکت های فناوری در سراسر جهان را برانگیخته است و نشان می دهد که ممکن است نوآوری هوش مصنوعی را خفه کند در هند. آراویند سرینیواس، مدیر عامل هوش مصنوعی Perplexity، آن را “حرکت بد هند”
برای شفاف سازی این توصیه، راجیو چاندراسخار، وزیر دولت اتحادیه در امور الکترونیک و فناوری اطلاعات، برای روشن کردن نکات کلیدی به X مراجعه کرد. او گفت که گرفتن مجوز از دولت است فقط برای پلتفرم های بزرگ قابل استفاده استکه شامل غول هایی مانند گوگل، OpenAI و مایکروسافت می شود. او گفت که مشاوره برای استارت آپ ها اعمال نمی شود. او همچنین اشاره میکند که هدف این مشاوره پلتفرمهای هوش مصنوعی «تست نشده» است.
شایان ذکر است که Ola بومی هندی اخیراً چت ربات Krutrim AI خود را منتشر کرد و چت بات را به عنوان دارای «حس ذاتی هند[n] حساسیت ها و ارتباط فرهنگی“. با این حال، با توجه به یک ایندین اکسپرس گزارش، چت ربات هوش مصنوعی Krutrim به شدت مستعد توهم است.
علاوه بر این، MeitY از شرکتهای هوش مصنوعی خواسته استاجازه هیچ گونه سوگیری یا تبعیض یا تهدید یکپارچگی فرآیند انتخاباتی از جمله از طریق استفاده از مدل(های)/ LLM/ Generative Al، نرم افزار(ها) یا الگوریتم(های) هوش مصنوعی را نمی دهد.”
این توصیه جدید در پس زمینه اشتباه اخیر گوگل جمینی در مورد مدل هوش مصنوعی صادر شده است به یک سوال حساس سیاسی پاسخ داد، جلب خشم از تاسیس. Ashwini Vaishnaw، وزیر فناوری اطلاعات هند، به گوگل هشدار داد کهتعصبات نژادی و غیره قابل تحمل نخواهد بود”
گوگل به سرعت به این مشکل رسیدگی کرد و گفت:Gemini به عنوان یک ابزار خلاقیت و بهره وری ساخته شده است و ممکن است همیشه قابل اعتماد نباشد، به خصوص زمانی که صحبت از پاسخ دادن به برخی درخواست ها در مورد رویدادهای جاری، موضوعات سیاسی یا اخبار در حال تحول باشد. این چیزی است که ما دائماً در حال بهبود آن هستیم”
در ایالات متحده، گوگل اخیراً به دلیل عدم موفقیت مدل تولید تصویر Gemini در تولید تصاویری از افراد سفیدپوست، با انتقاداتی مواجه شد. کاربران گوگل را متهم کردند ضد تعصب سفید. به دنبال این حادثه، گوگل تولید تصویر از افراد در Gemini را غیرفعال کرده و در تلاش برای بهبود این مدل است.
جدا از آن، این توصیه میگوید اگر پلتفرمها یا کاربران آن از این قوانین پیروی نکنند، ممکن است منجر به «عواقب کیفری بالقوه”
در این توصیه نامه آمده است:تکرار میشود که عدم رعایت مفاد قانون فناوری اطلاعات و/یا قوانین فناوری اطلاعات منجر به عواقب کیفری بالقوه برای واسطهها یا پلتفرمها یا کاربران آن در صورت شناسایی میشود، از جمله، اما نه محدود به پیگرد قانونی تحت قانون فناوری اطلاعات و چندین قانون دیگر. قانون کیفری”
پیامدها چه می تواند باشد؟
در حالی که این مشاوره از نظر قانونی برای شرکتهای فناوری الزامآور نیست، MeitY از واسطهها درخواست کرده است که درخواست خود را ارائه کنند گزارش وضعیت اقدام انجام شده ظرف 15 روز به وزارت این می تواند نه تنها برای غول های فناوری که خدمات هوش مصنوعی را در هند ارائه می دهند، پیامدهای گسترده تری داشته باشد، بلکه ممکن است پذیرش هوش مصنوعی و پیشرفت کلی فناوری در هند را در درازمدت خفه کند.
بسیاری نگران هستند که ممکن است نوار قرمز بیشتری ایجاد کنید دولت و شرکتهای بزرگ ممکن است در عرضه مدلهای جدید هوش مصنوعی در هند تردید داشته باشند، زیرا از بیش از حد قانونگذاری میترسند. تاکنون، همه شرکتهای فناوری با آخرین روندها در عرضه مدلهای پیشرفته هوش مصنوعی در هند، همتراز با کشورهای غربی بودهاند. در مقابل، کشورهای غربی در مورد مقررات هوش مصنوعی که ممکن است مانع پیشرفت شود، بسیار محتاط هستند.
مقررات جدید ممکن است “بوروکراسی بیشتری” از سوی دولت هند ایجاد کند و شرکتهای بزرگ ممکن است در عرضه مدلهای جدید هوش مصنوعی در هند تردید داشته باشند. ترس از تجاوز قانونی
جدا از آن، کارشناسان می گویند که توصیه “مبهم” است و آنچه را که “آزمایش نشده” است، تعریف نمی کند. شرکتهایی مانند گوگل و OpenAI قبل از عرضه یک مدل، آزمایشهای گستردهای انجام میدهند. با این حال، همانطور که در مورد مدلهای هوش مصنوعی وجود دارد، آنها بر روی مجموعه بزرگی از دادههای خراشیده شده از وب آموزش میبینند و ممکن است توهمات را نشان دهند و پاسخ نادرستی ایجاد کنند.
تقریباً همه رباتهای چت هوش مصنوعی این اطلاعات را در صفحه اصلی خود افشا میکنند. دولت چگونه تصمیم می گیرد که کدام مدل ها و تحت چه چارچوب هایی آزمایش نشده باشند؟
جالب توجه است که این مشاوره از شرکتهای فناوری میخواهد که برچسب یا جاسازی کنندفراداده یا شناسه منحصر به فرد دائمی” در داده های تولید شده توسط هوش مصنوعی (متن، صوتی، بصری یا سمعی و بصری) برای شناسایی اولین مبتکر، خالق، کاربر یا واسطه. این ما را به قابلیت ردیابی در هوش مصنوعی می رساند.
یک است حوزه تحقیق در حال توسعه در زمینه هوش مصنوعی، و تا کنون، ما هیچ راه معتبری برای تشخیص متن نوشته شده با هوش مصنوعی ندیدهایم، چه رسد به شناسایی سازنده از طریق ابردادههای تعبیهشده.
OpenAI سال گذشته ابزار AI Classifier خود را تعطیل کرد، که هدف آن تشخیص متن نوشته شده توسط انسان و متن نوشته شده توسط هوش مصنوعی بود زیرا نتایج مثبت کاذب می داد. برای مبارزه با اطلاعات نادرست تولید شده توسط هوش مصنوعی، Adobe، Google و OpenAI اخیراً از استاندارد C2PA (منشا و اعتبار محتوا) در محصولات خود استفاده کرده اند که یک واترمارک و ابرداده به تصاویر تولید شده با این حال، ابرداده و واترمارک را می توان به راحتی با استفاده از ابزارها و خدمات آنلاین حذف یا ویرایش کرد.
در حال حاضر وجود دارد هیچ روشی برای شناسایی مبتکر وجود ندارد یا کاربر از طریق ابرداده های تعبیه شده. بنابراین، درخواست MeitY برای جاسازی یک شناسه دائمی در داده های مصنوعی در این مرحله غیرقابل دفاع است.
بنابراین همه چیز در مورد مشاوره جدید MeitY برای شرکت های فناوری ارائه دهنده مدل ها و خدمات هوش مصنوعی در هند است. نظر شما در مورد این موضوع چیست؟ در بخش نظرات زیر به ما اطلاع دهید.
با کُلبه وبسایت و مجله فناوری و ابزارهای هوشمند ،بهترین تکنولوژی، بهترین آینده ، بروز بمانید