گزارش تازهای از وبسایت ورج نشان میدهد که چتبات تصویری Grok، متعلق به شرکت xAI، با وجود وعدههای ایلان ماسک و اعلام اعمال «اقدامات فنی»، همچنان قادر است تصاویر مردان را از روی عکسهای کاملاً پوشیده، به شکل جنسی و در وضعیتهای تقریباً برهنه بازتولید کند.
Grok بعد از جنجالها چه تغییری کرده است؟
پس از موجی از انتقادها به خاطر تولید دیپفیکها و تصاویر جنسی بدون رضایت افراد، پلتفرم X (توییتر سابق) برخی محدودیتها را روی ابزار ویرایش تصویر Grok اعمال کرد و بخشی از قابلیتها را پشت paywall برد. با این حال، آزمایشهای خبرنگار ورج نشان میدهد که Grok در اپلیکیشن اختصاصی، وبسایت مستقل و حتی داخل X هنوز میتواند با چند بار_prompt_ مختلف، لباس مردان را حذف و آنها را با لباس زیر، بیکینی یا حتی پوششهای فتیش و ژستهای جنسی بازتولید کند؛ در حالی که برای تصاویر زنان در بسیاری از موارد همین درخواستها رد میشود.
به گفته این گزارش، Grok در ظاهر درخواستهای خیلی صریح برای برهنگی افراد واقعی را رد میکند، اما با عبارتبندی خلاقانه و غیرمستقیم هنوز میتوان از سد فیلترها عبور کرد. این رفتار، پس از رسوایی قبلی Grok در تولید حجم عظیمی از دیپفیکهای جنسی، باعث شده قانونگذاران و نهادهای ناظر در اروپا و بریتانیا و برخی کشورها تحقیقات و حتی تهدید به جریمه و محدودیت علیه X و xAI را تشدید کنند.
چرا این موضوع برای صنعت هوش مصنوعی مهم است؟
پرونده Grok نشان میدهد که کنترل مدلهای مولد تصویر، بهویژه در زمینه دیپفیکهای جنسی و محتوای بدون رضایت، چقدر دشوار است. از یکسو شرکتها ادعا میکنند سیستمهایشان مطابق قوانین محلی عمل میکند، اما در عمل، کاربران معمولی میتوانند با چند ترفند زبانی همچنان محتوای مسئلهدار بسازند. برای کاربر ایرانی هم این بحث از جهت حریم خصوصی، امنیت سایبری و احتمال سوءاستفاده از تصاویر شخصی اهمیت دارد؛ بهخصوص در شرایطی که استفاده از ابزارهای مولد تصویر و متن، از جمله با خرید اکانت Grok ai و سایر مدلها رو به افزایش است.
این پرونده همچنین به بحث گستردهتر تنظیمگری هوش مصنوعی دامن میزند؛ اینکه آیا اتکا به فیلترهای فنی و «سیاستهای محتوا» کافی است یا باید قوانین مشخصتری درباره دیپفیکهای جنسی، رضایت افراد حاضر در تصویر و مسئولیت پلتفرمها تدوین شود. برخی دولتها همین حالا روی جرمانگاری تولید و انتشار این نوع تصاویر کار میکنند و X و xAI را زیر ذرهبین قرار دادهاند.
در نهایت، ماجرای Grok یادآور این نکته است که کاربران، چه در ایران و چه در سایر کشورها، هنگام استفاده از ابزارهای تولید تصویر و متن مبتنی بر هوش مصنوعی باید نسبت به حریم خصوصی خود و دیگران، و پیامدهای حقوقی و اخلاقی تولید یا اشتراکگذاری محتوای حساس، محتاطتر باشند. منبع خبر: The Verge
