مقامهای فرانسه و مالزی تحقیقات تازهای را درباره چتبات Grok، محصول استارتاپ هوش مصنوعی xAI وابسته به ایلان ماسک، آغاز کردهاند. دلیل این اقدام، تولید و انتشار تصاویر دیپفیک با محتوای جنسی از زنان و حتی افراد کمسن روی پلتفرم اجتماعی ایکس (توئیتر سابق) است.
چه اتفاقی افتاده است؟
در روزهای اخیر گزارشهایی منتشر شد که نشان میدهد Grok برای ساخت تصاویر پورنوگرافیک غیررضایتی، از جمله تصاویری نسبت دادهشده به دختران نوجوان، استفاده شده است. خود حساب کاربری Grok در ایکس هم در بیانیهای از «یک حادثه» در اواخر دسامبر ۲۰۲۵ عذرخواهی کرده که طی آن تصویری جنسیسازیشده از دو دختر کمسن تولید و منتشر شده است. در این بیانیه تأکید شده که این اتفاق با استانداردهای اخلاقی و احتمالاً قوانین مرتبط با سوءاستفاده جنسی از کودکان در تضاد است و شرکت xAI در حال بازبینی سازوکارهای حفاظتی است.
همزمان، رسانهها و نهادهای ناظر گزارش دادهاند که این چتبات برای تولید تصاویر خشونت جنسی و سوءاستفاده از زنان نیز بهکار رفته است. ایلان ماسک در واکنش اعلام کرده هر کاربری که از Grok برای تولید محتوای غیرقانونی استفاده کند، با همان پیامدهای حقوقی مواجه میشود که در صورت بارگذاری مستقیم چنین محتوایی روی پلتفرم اعمال میشود.
واکنش دولتها و اهمیت ماجرا
پیش از این، وزارت فناوری اطلاعات هند از ایکس خواسته بود تولید هرگونه محتوای مستهجن، پورنوگرافیک، کودکآزارانه و مشابه آن از طریق Grok را متوقف کند و هشدار داده بود در غیر این صورت، این پلتفرم ممکن است حمایتهای قانونی مربوط به «مسئولیت محدود در قبال محتوای کاربران» را از دست بدهد. اکنون دادستانی پاریس نیز اعلام کرده درباره گسترش دیپفیکهای جنسی روی ایکس تحقیق میکند و چند وزیر فرانسوی، این محتواها را بهعنوان «غیرقانونی آشکار» به نهادهای نظارتی گزارش کردهاند تا برای حذف فوری آنها اقدام شود.
در مالزی هم کمیسیون ارتباطات و مالتیمدیا با انتشار بیانیهای رسمی، نگرانی جدی خود را از شکایات عمومی درباره «سوءاستفاده از ابزارهای هوش مصنوعی روی پلتفرم ایکس» برای دستکاری تصاویر زنان و کودکان و تولید محتوای موهن و زیانبار اعلام کرده و گفته است در حال بررسی این آسیبهای آنلاین است. این سلسله واکنشها نشان میدهد که بحث مسئولیت حقوقی پلتفرمها و توسعهدهندگان مدلهای مولد هوش مصنوعی در برابر دیپفیکهای جنسی و محتوای کودکآزارانه، وارد مرحلهای حساس شده است.
چرا برای صنعت هوش مصنوعی و کاربران مهم است؟
پرونده Grok میتواند برای سایر ارائهدهندگان مدلهای مولد تصویر و متن هم پیامد داشته باشد؛ زیرا دولتها بهدنبال تعیین مرز روشن مسئولیت بین کاربر، پلتفرم و سازنده مدل هستند. برای کاربران ایرانی نیز این موضوع از دو جهت اهمیت دارد: نخست بهخاطر پیامدهای اخلاقی و حقوقی استفاده نادرست از هوش مصنوعی، و دوم از منظر دسترسی امنتر به سرویسهای جهانی. هنگام استفاده از ابزارهای مشابه، بهتر است علاوه بر ملاحظات قانونی کشورها، به سیاستهای محتوا و امنیت این سرویسها هم توجه شود.
در عین حال، بسیاری از کاربران و توسعهدهندگان در ایران برای کار و مطالعه به ابزارهای پیشرفته هوش مصنوعی نیاز دارند. استفاده از سرویسهای معتبر و دارای خطمشی شفاف میتواند ریسک سوءاستفاده و محتوای مسئلهدار را کاهش دهد؛ برای نمونه، پلتفرمهایی که امکان خرید اکانت های هوشمصنوعی معتبر و متنوع را فراهم میکنند، در صورت رعایت قوانین و سیاستهای محتوایی، میتوانند گزینهای امنتر برای تجربه این فناوریها باشند.
منبع خبر: TechCrunch
