مقامهای اندونزی و مالزی اعلام کردهاند که دسترسی به چتبات Grok، محصول شرکت xAI، را بهطور موقت مسدود کردهاند. این تصمیم پس از موجی از انتشار تصاویر جنسی و خشونتآمیزِ دیپفیک، از جمله درباره زنان و حتی افراد زیر سن قانونی، که در پاسخ به درخواست کاربران در شبکه اجتماعی X تولید و منتشر شده بود، گرفته شده است.
چه اتفاقی افتاده و واکنش دولتها چه بوده است؟
بهگزارش رسانههای بینالمللی، وزیر ارتباطات و دیجیتال اندونزی در بیانیهای تأکید کرده است که دیپفیکهای جنسی بدون رضایت، نقض جدی حقوق بشر و کرامت شهروندان در فضای دیجیتال محسوب میشود. این وزارتخانه همچنین نمایندگان X را برای گفتوگو و پاسخگویی درباره نحوه مدیریت محتوای تولیدشده توسط Grok فراخوانده است. دولت مالزی نیز در اقدامی مشابه، مسدودسازی Grok را اعلام کرده است.
همزمان، کشورهای دیگر هم در حال افزایش فشار بر xAI و پلتفرم X هستند. وزارت فناوری اطلاعات هند دستور داده است اقداماتی برای جلوگیری از تولید محتوای مستهجن توسط Grok انجام شود. در اتحادیه اروپا نیز کمیسیون اروپا از شرکت خواسته تمام اسناد مرتبط با Grok را حفظ کند؛ درخواستی که میتواند مقدمه یک تحقیق رسمی باشد. در بریتانیا، رگولاتور ارتباطات (آفکام) در حال ارزیابی سریع ماجراست تا ببیند آیا نیاز به تحقیق رسمی وجود دارد یا نه و نخستوزیر این کشور نیز از اقدام احتمالی رگولاتور حمایت کرده است.
در آمریکا، در حالی که دولت فدرال تاکنون واکنش مستقیمی نشان نداده، برخی سناتورهای دموکرات از اپل و گوگل خواستهاند برنامه X را بهدلیل میزبانی این نوع محتوا از فروشگاههای نرمافزاری خود حذف کنند. xAI ابتدا با انتشار یک متن عذرخواهی، پذیرفت که یکی از پستها میتواند ناقض استانداردهای اخلاقی و حتی قوانین مرتبط با سوءاستفاده جنسی از کودکان باشد و سپس امکان تولید تصویر با هوش مصنوعی را در X به حسابهای پولی محدود کرد؛ هرچند گزارش شده این محدودیت در اپلیکیشن مستقل Grok به همان شکل اعمال نشده است.
اهمیت ماجرا برای صنعت هوش مصنوعی و کاربران
این پرونده تازهترین نمونه از چالشهای جدی پیرامون ایمنی و مسئولیت در ابزارهای تولید تصویر با هوش مصنوعی است. دولتها نگران گسترش «دیپفیکهای غیررضایتی»، بهویژه علیه زنان و کودکان، هستند؛ تصاویری که میتواند زندگی فردی و شغلی قربانیان را تخریب کند و حتی به خشونت دامن بزند. از سوی دیگر، شرکتهای فعال در حوزه هوش مصنوعی زیر فشار قرار گرفتهاند تا سیستمهای نظارتی قویتر، فیلترهای مؤثرتر و سازوکار پاسخگویی شفافتری پیادهسازی کنند.
برای کاربران ایرانی نیز پیگیری این تحولات مهم است؛ زیرا بسیاری از ابزارهای هوش مصنوعی، از جمله چتباتها و سرویسهای تولید تصویر، بهطور جهانی عرضه میشوند و بحثهای تنظیمگری در کشورهای مختلف میتواند بر دسترسی، قیمت و امکانات این سرویسها تأثیر بگذارد. هنگام استفاده از سرویسهای خارجی، از جمله ابزارهایی که از طریق سرویسهای واسط و فروشگاههای آنلاین ارائه میشوند، توجه به اخلاق استفاده از هوش مصنوعی و احترام به حریم خصوصی دیگران اهمیت بیشتری پیدا میکند. اگر بهدنبال سرویسهای متنوع هوش مصنوعی هستید، بهتر است از مجموعههای معتبر برای خرید اکانت های هوشمصنوعی استفاده کنید تا هم از نظر امنیت و هم از نظر پشتیبانی، تجربه مطمئنتری داشته باشید.
این جنجالها نشان میدهد که در کنار نوآوریهای سریع، بحث قوانین، استانداردها و مسئولیتپذیری نیز باید همزمان پیش برود. برخورد دولتهای مختلف با Grok میتواند برای سایر توسعهدهندگان مدلهای زبانی و تصویری، از جمله ارائهدهندگان سرویس در بازار ایران، حکم یک هشدار را داشته باشد که بیتوجهی به سوءاستفادههای احتمالی کاربران میتواند پیامدهای حقوقی و تجاری جدی بههمراه آورد.
منبع خبر: TechCrunch
