وزارت ارتباطات و امور دیجیتال اندونزی اعلام کرده است که ممنوعیت چتبات هوش مصنوعی «گوروک» متعلق به شرکت xAI را بهصورت مشروط لغو کرده است؛ تصمیمی که پس از دریافت تعهداتی از سوی پلتفرم ایکس برای کاهش سوءاستفاده و بهبود نظارت اتخاذ شده است.
چرا گوروک در اندونزی و سایر کشورها مسدود شد؟
گوروک پس از آن زیر ذرهبین نهادهای نظارتی در جنوب شرق آسیا قرار گرفت که از آن برای ساخت حجم بالایی از تصاویر جنسیِ بدون رضایت، شامل تصاویر زنان واقعی و حتی افراد نابالغ، در شبکه اجتماعی ایکس استفاده شد. پس از این موج سوءاستفاده، اندونزی، مالزی و فیلیپین دسترسی به گوروک را مسدود کردند.
بهگزارش وزارتخانه اندونزی، لغو ممنوعیت پس از ارسال نامهای از سوی ایکس انجام شده که در آن «گامهای مشخص برای بهبود خدمات و جلوگیری از سوءاستفاده» تشریح شده است. با این حال، مقامهای این کشور تأکید کردهاند که این تصمیم کاملاً مشروط است و در صورت شناسایی تخلفات جدید، ممنوعیت میتواند دوباره اعمال شود. مالزی و فیلیپین نیز چند روز قبل، محدودیتهای مشابه خود را لغو کرده بودند.
پیامدها برای صنعت هوش مصنوعی و نظارت دولتی
حاشیههای پیرامون گوروک نشان میدهد که سرویسهای مولد تصویر و متن مبتنی بر هوش مصنوعی، بدون سیاستهای سختگیرانه و ابزارهای نظارتی مؤثر، میتوانند به منبعی برای تولید دیپفیکهای مضر و نقض گسترده حریم خصوصی تبدیل شوند. در آمریکا نیز برخی ایالتها، از جمله دادستان کل کالیفرنیا، بررسیهای حقوقی و دستورات توقف برای محدودسازی تولید این نوع محتوا را آغاز کردهاند.
شرکت xAI برای کاهش ریسک، بخشی از قابلیتهای تولید تصویر گوروک را به کاربران پولی محدود کرده و وعده داده است با کاربران تولیدکننده محتوای غیرقانونی مانند منتشرکنندگان چنین محتواهایی برخورد شود. برای کاربرانی که بهدنبال استفاده مسئولانه از ابزارهای مشابه هستند، استفاده از سرویسهای معتبر و دارای کنترل محتوا اهمیت بالایی دارد و به همین دلیل، تهیه از منابع مطمئن برای اکانت گوروک - Grok ai یا سایر پلتفرمهای هوش مصنوعی توصیه میشود.
پیگیری این تحولات برای کاربران ایرانی نیز مهم است؛ زیرا روند مقرراتگذاری جهانی بر سرویسهای هوش مصنوعی میتواند بهصورت غیرمستقیم بر دسترسی و تجربه کاربری در منطقه ما اثر بگذارد و معیارهای تازهای برای مسئولیت پلتفرمها در قبال دیپفیک و محتوای مضر تعریف کند.
منبع خبر: TechCrunch
