پلتفرم ایکس اعلام کرده که قابلیت ویرایش تصاویر واقعی افراد در ابزار هوش مصنوعی «گروک» را برای جلوگیری از ساخت تصاویر جنسی و دیپفیکهای بدون رضایت محدود کرده است. با این حال بررسی تازه وبسایت ورج نشان میدهد که هنوز هم میتوان با دور زدن محدودیتها، تصاویر تحریکآمیز از افراد واقعی تولید کرد.
تغییرات اعلامی ایکس چه بود؟
بهگفته حساب ایمنی ایکس، این شرکت مدعی است با اعمال «اقدامات فناورانه» جلوی ویرایش تصاویر افراد واقعی بهصورت لباسهای باز مانند بیکینی را گرفته و این محدودیت برای همه کاربران، حتی مشترکان پولی، اعمال میشود. همچنین امکان تولید و ویرایش تصویر از طریق حساب گروک در خود پلتفرم ایکس فقط برای کاربران پولی فعال است تا به ادعای شرکت، امکان پیگیری سوءاستفادهکنندگان سادهتر شود.
ایکس اعلام کرده در کشورهایی که قانوناً ساخت تصاویر صمیمی غیرتوافقی جرم است، تولید چنین تصاویر از افراد واقعی از طریق گروک را بهطور جغرافیایی مسدود میکند. این تغییرات پس از افزایش انتقادها از انتشار دیپفیکهای جنسی روی ایکس و همزمان با اجرای قوانین جدید در بریتانیا برای جرمانگاری این نوع محتوا مطرح شده است.
با این حال خبرنگاران ورج در آزمایشهای خود گزارش دادهاند که همچنان میتوان با استفاده از حساب رایگان گروک، تصاویر افراد را در حالتهای محرک و با پوشش حداقلی تولید کرد. این تناقض، پرسشهایی درباره کارایی فیلترهای محتوایی و مسئولیتپذیری پلتفرمها در قبال سوءاستفادههای جنسی از مدلهای هوش مصنوعی ایجاد کرده است.
برای کاربران ایرانی، این ماجرا یادآور اهمیت تنظیمگری و سواد رسانهای در مواجهه با ابزارهای مولد تصویر است؛ ابزاری که بهراحتی میتواند به آزار آنلاین و نقض حریم خصوصی منجر شود. از سوی دیگر، استفاده مسئولانه از مدلهای متنی و تصویری، برای بسیاری از کاربران و کسبوکارها جذاب است و به همین دلیل، سرویسهایی مانند اکانت گروک - Grok ai و دیگر پلتفرمهای مشابه در بازار جهانی هوش مصنوعی با استقبال روبهرو شدهاند، مشروط بر اینکه همراه با چارچوبهای اخلاقی و حقوقی روشن بهکار گرفته شوند.
در نهایت، کشمکش میان قانونگذاران، پلتفرمها و توسعهدهندگان هوش مصنوعی بر سر مدیریت دیپفیکهای جنسی نشان میدهد که صرفاً انتشار یک «سیاست جدید» کافی نیست و جامعه جهانی از شرکتها انتظار شفافیت، پاسخگویی و اثربخشی واقعی در عمل دارد.
منبع خبر: The Verge
