گروک در بریتانیا هنوز هم زنان را در دیپ‌فیک‌ها «برهنه» می‌کند

گزارش تازه‌ای از وب‌سایت ورج نشان می‌دهد تلاش‌های شبکه اجتماعی ایکس برای محدود کردن قابلیت ویرایش تصویر در چت‌بات هوش مصنوعی «گروک» نتوانسته جلوی تولید گسترده دیپ‌فیک‌های جنسی از زنان در بریتانیا را بگیرد و دور زدن این محدودیت‌ها همچنان بسیار ساده است.

چه اتفاقی افتاده است؟

پس از موج انتقادها و فشارهای حقوقی بر سر انتشار انبوه تصاویر جنسی غیررضایتمندانه در ایکس، این پلتفرم ابتدا دسترسی عمومی به تولید و ویرایش تصویر با گروک را محدود کرد. با این حال، بررسی خبرنگاران نشان می‌دهد کاربران همچنان می‌توانند با ورود مستقیم به ربات گروک در وب‌سایت یا اپلیکیشن، تصاویر زنان را در ژست‌ها و پوشش‌های شدیداً جنسی بازتولید کنند؛ حتی بدون آن‌که هویتشان به‌راحتی قابل ردیابی باشد.

در آزمایش‌های انجام‌شده در بریتانیا، درخواست‌هایی مانند «بزرگ‌تر کردن سینه‌ها»، «نشان دادن بخش بالایی سینه» یا قرار دادن سوژه در لباس زیر بسیار باز، توسط گروک انجام شده است؛ در حالی که تنها تلاش برای حذف کامل لباس یا تولید برهنگی مطلق با سانسور مواجه شده است. همچنین، لایه‌های به‌ظاهر حفاظتی مثل پنجره تأیید سن، به‌سادگی و بدون هیچ مدرک هویتی قابل دور زدن بوده‌اند.

پیامدهای حقوقی و فشار بر ایکس و xAI

این حاشیه‌ها باعث شده تا قانون‌گذاران و دولت‌ها فشار بیشتری بر ایکس و شرکت xAI وارد کنند. برخی کشورها دسترسی به گروک را موقتاً مسدود کرده‌اند و در بریتانیا نیز قانون‌گذاران برای جرم‌انگاری مشخص «تصاویر برهنگی دیپ‌فیک» سرعت عمل بیشتری نشان داده‌اند. هم‌زمان، تحقیقاتی درباره احتمال مسدود شدن خود پلتفرم در جریان است و نهادهای فعال در حوزه حفاظت از کودکان نیز نسبت به استفاده از این ابزار برای ساخت تصاویر مجرمانه از کودکان هشدار داده‌اند.

ایلان ماسک در واکنش عمومی، مسئولیت را متوجه کاربران دانسته و ادعا کرده گروک به قوانین هر کشور پایبند است و به‌صورت خودکار محتوای غیرقانونی تولید نمی‌کند. اما منتقدان می‌گویند طراحی محافظه‌کارانه‌تر و ایجاد گاردریل‌های جدی در مدل‌های هوش مصنوعی – کاری که برخی شرکت‌های دیگر انجام داده‌اند – می‌تواند میزان سوءاستفاده از چنین ابزارهایی را به‌طور چشمگیری کاهش دهد.

اهمیت موضوع برای صنعت هوش مصنوعی و کاربران ایرانی

پرونده گروک نمونه روشنی از چالش‌های اخلاقی و حقوقی پیرامون مدل‌های مولد تصویر است؛ مدلی که اگر بدون محدودیت عرضه شود، می‌تواند به ابزار آزار، باج‌گیری و تخریب حیثیت افراد تبدیل شود. این بحث برای کاربران ایرانی نیز اهمیت دارد؛ چرا که استفاده از سرویس‌های خارجی تولید تصویر و چت‌بات‌ها رو به گسترش است و آشنایی با ریسک‌های حریم خصوصی و حقوقی آن‌ها ضروری است. از سوی دیگر، کاربرانی که به‌دنبال استفاده مسئولانه از هوش مصنوعی هستند، بهتر است هنگام خرید اکانت های هوش‌مصنوعی به سیاست‌های ایمنی و محتوایی هر سرویس توجه ویژه‌ای داشته باشند.

منبع خبر: The Verge