چند نهاد ناظر در اروپا، هند و مالزی تحقیقات جداگانهای را درباره شبکه اجتماعی X و سامانه هوش مصنوعی آن با نام Grok آغاز کردهاند؛ پس از آنکه گزارش شد این ابزار قادر به تولید تصاویر عریان و دیپفیک از زنان و حتی کودکان است.
چه اتفاقی افتاده است؟
بر اساس گزارشها، کاربران توانستهاند با استفاده از Grok، که به عنوان یک چتبات و مولد تصویر هوش مصنوعی عمل میکند، تصاویری با محتوای جنسی و عریان از زنان و کودکان تولید کنند. این موضوع نگرانی جدی نهادهای تنظیمگر در اروپا و چند کشور آسیایی را برانگیخته و پرسشهایی درباره سازوکارهای نظارتی و فیلتر محتوای این سیستم به وجود آورده است.
در چارچوب قوانین سختگیرانهتر اروپا درباره خدمات دیجیتال و همچنین قوانین مرتبط با سوءاستفاده جنسی از کودکان در فضای آنلاین، پلتفرمها موظفاند ابزارهای قویتری برای جلوگیری از تولید و انتشار چنین محتوایی داشته باشند. گسترش سریع مدلهای زبانی و تصویری، اهمیت کنترل سوءاستفادههای احتمالی از هوش مصنوعی را دوچندان کرده است.
اهمیت ماجرا برای صنعت هوش مصنوعی
این پرونده میتواند به یک نمونه مهم در تعیین استانداردهای جدید برای مدلهای مولد تبدیل شود. اگر نهادهای نظارتی نتیجه بگیرند که اقدامات X و Grok برای جلوگیری از تولید محتوای مرتبط با سوءاستفاده از کودکان و دیپفیکهای جنسی کافی نبوده، ممکن است مقررات سختگیرانهتری بر تمام ارائهدهندگان سرویسهای مشابه تحمیل شود. چنین روندی نهتنها بر شبکههای اجتماعی جهانی، بلکه بر استارتاپها و شرکتهای کوچکتر فعال در حوزه هوش مصنوعی نیز اثر خواهد گذاشت.
برای کاربران ایرانی و توسعهدهندگان داخلی، این نوع پروندهها یادآور این نکته است که طراحی و راهاندازی هر گونه سرویس هوش مصنوعی نیازمند توجه جدی به جنبههای حقوقی، اخلاقی و فنی است؛ از جمله بهکارگیری فیلترها، پایش مداوم خروجی مدل و ثبت شفاف سیاستهای استفاده. در همین فضا، استفاده مسئولانه از ابزارهای قدرتمند خارجی نیز اهمیت دارد؛ برای نمونه هنگام خرید اکانت های هوشمصنوعی یا سرویسهای چتبات و مولد تصویر، باید به سیاستها و محدودیتهای محتوایی آنها توجه ویژهای شود.
این تحقیقات هنوز در مراحل اولیه است و ممکن است در ادامه به جریمه، دستور اصلاح سازوکارهای فنی یا تغییر سیاستهای محتوایی بینجامد. نتیجه نهایی هر چه باشد، احتمالاً روند قانونگذاری در حوزه هوش مصنوعی و مسئولیت پلتفرمها در برابر محتوای تولیدشده توسط مدلها را شتاب خواهد داد. منبع خبر: CNBC
