دولتهای مالزی و اندونزی اعلام کردهاند که دسترسی به چتبات هوش مصنوعی Grok، متعلق به شرکت تحت مدیریت ایلان ماسک، را بهدلیل نمایش محتوای «غیراخلاقی» و «غیررضایتمندانه» برای کاربران در این کشورها مسدود یا بهشدت محدود کردهاند. به گفته مقامهای این دو کشور، بخشی از پاسخها و محتوای تولیدشده توسط این سرویس با قوانین محتوایی و هنجارهای فرهنگی آنها همخوانی نداشته است.
تشدید نظارت بر چتباتهای هوش مصنوعی
براساس گزارشها، نهادهای ناظر در مالزی و اندونزی پس از دریافت شکایتهایی درباره نمایش محتوای مستهجن یا مرتبط با روابط جنسی بدون رضایت، از ارائهدهندگان خدمات اینترنتی خواستهاند دسترسی به Grok را مسدود یا فیلتر کنند. این اقدام در ادامه موج گستردهتری از حساسیت دولتها نسبت به رفتار و خروجی چتباتهای هوش مصنوعی است که بهصورت خودکار متن، تصویر و سایر انواع محتوا را تولید میکنند.
این تصمیم برای صنعت هوش مصنوعی پیام مهمی دارد: کشورها، بهویژه در آسیا و بازارهای با قوانین محتوایی سختگیرانه، انتظار دارند پلتفرمهای هوش مصنوعی از ابتدا با سازوکارهای جدی پایش محتوا و رعایت استانداردهای محلی طراحی شوند. در غیر این صورت، حتی سرویسهای محبوب و پرمخاطب نیز میتوانند در یک کشور یا منطقه بهطور کامل مسدود شوند.
پیامدها برای کاربران و توسعهدهندگان
کاربران این کشورها که برای جستوجو، سرگرمی یا کار روزمره از Grok استفاده میکردند، اکنون ناچارند به سرویسهای جایگزین مهاجرت کنند. در چنین فضایی، استفاده از دیگر ابزارهای هوش مصنوعی و چتباتها رشد میکند و رقابت میان ارائهدهندگان بیشتر میشود. برای کاربرانی در ایران که بهدنبال دسترسی قانونی و پایدار به ابزارهای مختلف هوش مصنوعی هستند، این نوع رویدادها یادآور اهمیت انتخاب پلتفرمهایی است که از ابتدا نسبت به قوانین محتوا حساس و شفافاند؛ برای نمونه، بسیاری ترجیح میدهند از سرویسهای متنوع بهره ببرند و با خرید اکانت های هوشمصنوعی از یک فروشگاه معتبر، گزینههای مختلف را در کنار هم داشته باشند.
از نگاه توسعهدهندگان و شرکتهای فعال در حوزه هوش مصنوعی، مسدود شدن یک سرویس بهدلیل محتوای غیرقابلقبول، فشار مضاعفی ایجاد میکند تا سامانههای پالایش محتوا، تنظیمات ایمنی و سازوکارهای گزارشدهی کاربر را تقویت کنند. همچنین، انتظار میرود گفتوگوها میان شرکتهای فناوری و قانونگذاران درباره چارچوبهای استفاده مسئولانه از چتباتها پررنگتر شود.
منبع خبر: CNBC
