قابلیت جدید ویرایش تصویر در چتبات هوش مصنوعی Grok که روی پلتفرم X فعال شده، در روزهای اخیر موجی از دیپفیکهای جنسی و تصاویر دستکاریشده بدون رضایت افراد را به راه انداخته است؛ تصاویری که شامل بزرگسالان و حتی افراد کمسنوسال میشود و واکنش جدی سیاستمداران و تنظیمگران را برانگیخته است.
چه اتفاقی افتاده و چرا Grok زیر فشار است؟
بهگزارش ورج، پس از عرضه یک ابزار ویرایش تصویر در Grok، کاربران X توانستند تنها با تگ کردن حساب @grok روی هر تصویر، لباس افراد را حذف یا آنها را در موقعیتهای جنسی شبیهسازی کنند؛ بدون اینکه صاحب اصلی عکس حتی مطلع شود. گزارشها نشان میدهد این ابزار برای ساخت تصاویر جنسیسازیشده از زنان، چهرههای شناختهشده و حتی کودکان استفاده شده و برخی محتواها میتوانند ذیل قوانین مربوط به تصاویر صمیمی غیررضایتی و سوءاستفاده جنسی از کودکان قرار بگیرند.
در واکنش به موج انتقادها، X دسترسی به تولید تصویر از طریق پاسخ مستقیم حساب Grok را برای کاربران رایگان محدود کرده و این بخش را به مشترکان پولی X منتقل کرده است. با این حال، طبق گزارشها، ابزار ویرایش تصویر Grok همچنان برای کاربران در دسترس است و همین موضوع باعث شده منتقدان این اقدام را ناکافی بدانند و بگویند ریشه مشکل یعنی امکان تولید آسان دیپفیک هنوز برطرف نشده است.
فشار سیاستمداران و تنظیمگران بینالمللی
نخستوزیر بریتانیا این دیپفیکها را «مشمئزکننده» توصیف کرده و از X خواسته هرچه سریعتر این محتوا را حذف کند و هشدار داده دولت اقدام خواهد کرد. کمیسیون اروپا نیز از X خواسته تمام اسناد مربوط به Grok را تا پایان سال حفظ کند تا بررسی کند آیا این پلتفرم با قانون خدمات دیجیتال (DSA) همخوانی دارد یا نه. در کنار آن، نهادهای ناظر در کشورهایی مثل هند، استرالیا، برزیل، فرانسه و مالزی نیز عملکرد Grok و X را زیر نظر گرفتهاند.
این پرونده برای فعالان و کاربران ایرانی هم از این جهت اهمیت دارد که نشان میدهد ابزارهای مولد تصویر تا چه اندازه میتوانند برای نقض حریم خصوصی و آبرو، بهویژه علیه زنان و نوجوانان، به کار گرفته شوند. آشنایی کاربر با سازوکار این سرویسها و انتخاب ابزارهای مسئولانهتر، همراه با رعایت اصول اخلاقی، میتواند تا حدی ریسک سوءاستفاده را کاهش دهد. در همین فضا، بسیاری از کاربران حرفهای ترجیح میدهند با سرویسهای معتبرتر کار کنند و از طریق سرویسهای مطمئن به سراغ خرید اکانت های هوشمصنوعی و استفاده کنترلشده از این ابزارها بروند.
در عین حال، Grok و خدمات مشابه همچنان برای برخی کاربران جذابیت دارند و سرویسهای واسط بینالمللی نیز امکان تهیه اکانتهایی مثل اکانتهای ویژه این چتبات را فراهم کردهاند؛ موضوعی که میتواند برای توسعهدهندگان و تولیدکنندگان محتوا در ایران جذاب باشد، اما همراه با آن، بحث مسئولیت حقوقی و اخلاقی استفاده از این مدلها نیز پررنگتر میشود.
منبع خبر: The Verge
