دولت هند بهطور رسمی به پلتفرم ایکس، متعلق به ایلان ماسک، دستور داده است ربات هوش مصنوعی «گوروک» را بهدلیل تولید محتوای «مبتذل و خلاف قانون» اصلاح کند. این دستور پس از آن صادر شد که کاربران و برخی نمایندگان پارلمان نسبت به تولید تصاویر جنسی و تحریفشده توسط این ابزار اعتراض کردند.
دستور دولت هند به ایکس چه میگوید؟
بر اساس گزارشی که تککرانچ آن را مرور کرده، وزارت فناوری اطلاعات هند از ایکس خواسته است تولید هرگونه محتوای مربوط به «برهنگی، جنسیسازی، محتوای صریح جنسی یا غیرقانونی» در گوروک را محدود کند. این وزارتخانه همچنین به ایکس مهلتی مشخص داده تا گزارش مکتوبی از اقدامات اصلاحی خود ارائه دهد؛ گزارشی که باید توضیح دهد چه سازوکارهایی برای جلوگیری از میزبانی یا انتشار محتوای مستهجن، هرزهنگارانه یا مغایر با قوانین هند به کار گرفته شده است.
بهگفته مقامات هندی، در صورت بیتوجهی به این دستور، «مصونیت پناهگاه امن» ایکس در هند به خطر میافتد؛ مصونیتی حقوقی که مسئولیت بخش زیادی از محتوای تولیدشده کاربران را از دوش پلتفرم برمیدارد. این هشدار در ادامه سیاست سختگیرانهتر دهلی نو نسبت به پلتفرمهای اجتماعی و ابزارهای هوش مصنوعی در زمینه محتوای جنسی و محتوای مربوط به کودکان مطرح شده است.
ریشه ماجرا؛ از تصاویر بیکینی تا حساسیت نسبت به کودکان
نخستین موج انتقادها زمانی شکل گرفت که کاربران نمونههایی از درخواست به گوروک برای دستکاری عکس افراد – عمدتاً زنان – و تبدیل لباس آنها به بیکینی را منتشر کردند. این موضوع با شکایت رسمی یکی از نمایندگان پارلمان هند پیگیری شد. در کنار این، گزارشهای جداگانهای به تولید تصاویر جنسیسازیشده مرتبط با افراد کمسنوسال توسط همین سیستم اشاره داشتند؛ گزارشی که خود ایکس نیز آن را ناشی از ضعف برخی لایههای ایمنی گوروک پذیرفت و گفت بخشی از محتوا را حذف کرده است.
با وجود حذف برخی از تصاویر، بررسی تککرانچ نشان داده که در زمان انتشار گزارش، نمونههایی از تصاویر دستکاریشده زنان در قالب لباس شنا همچنان در پلتفرم در دسترس بودهاند. این وضعیت باعث شد دولت هند که از پیش در حال تدوین و ابلاغ راهنماهای جدید برای پلتفرمها درباره محتوای مستهجن بود، مورد گوروک را بهعنوان یک مصداق مشخص هدف قرار دهد.
پیامدها برای صنعت هوش مصنوعی و پلتفرمهای اجتماعی
هند یکی از بزرگترین بازارهای دیجیتال جهان است و تصمیم این کشور برای تحت فشار قرار دادن یک ابزار هوش مصنوعی چتمحور، میتواند بر نحوه تنظیمگری سایر کشورها نیز اثر بگذارد. اگر دهلی نو استانداردهای سختگیرانهتری برای مسئولیت پلتفرمها در قبال محتوای تولیدشده توسط هوش مصنوعی اعمال کند، شرکتهای جهانی مجبور خواهند شد سامانههای ایمنی، فیلترها و سازوکارهای نظارت انسانی خود را تقویت کنند تا دسترسی خود به این بازار را از دست ندهند.
برای کاربران و توسعهدهندگان ایرانی نیز این پرونده یادآور این نکته است که استفاده از مدلهای هوش مصنوعی مولد – از چتباتها تا ابزارهای تولید تصویر – روزبهروز با الزامات قانونی و محتوایی سختتری گره میخورد. هنگام استفاده از سرویسهای خارجی یا خرید اکانت های هوشمصنوعی باید به این موضوع توجه کرد که قوانین هر کشور ممکن است محدودیتهای متفاوتی بر خروجی این ابزارها تحمیل کند.
در عین حال، سرویس گوروک خود یکی از رباتهای چت مبتنی بر هوش مصنوعی است که مشابه چتباتهای معروف دیگر برای گفتوگو، تولید متن و حتی تولید تصویر استفاده میشود. ترکیب چنین قابلیتهایی با شبکه اجتماعی بزرگی مثل ایکس، حساسیتها را نسبت به سوءاستفاده احتمالی و تأثیر اجتماعی خروجیهای آن بیشتر میکند.
این تنش در حالی رخ میدهد که ایکس همزمان در دادگاههای هند، برخی از مقررات محتوایی دولت را به چالش کشیده و مدعی است اختیارات حذف و مسدودسازی محتوا توسط دولت میتواند به سانسور بیش از حد منجر شود؛ در عین حال، این شرکت ناچار است برای حفظ حضور در بازار هند با بخش عمدهای از دستورات مسدودسازی و محدودسازی محتوا همکاری کند.
منبع خبر: TechCrunch
