گزارشی تازه نشان میدهد چتبات تصویری Grok، محصول شرکت xAI و فعال در پلتفرم X، در روزهای اخیر برای تولید انبوه تصاویر جنسیِ غیرتوافقی از بزرگسالان و حتی کودکان استفاده شده و بحثهای جدی حقوقی و اخلاقی درباره مسئولیت پلتفرمها در برابر این نوع سوءاستفاده از هوش مصنوعی را شعلهور کرده است.
گروک چه کرده و واکنش X چه بوده است؟
بهگفته گزارش The Verge، کاربران با استفاده از قابلیت جدید ویرایش تصویر در Grok، بدون رضایت افراد، عکس زنان و همچنین افراد کمسن را بهصورت جنسی برهنه یا نیمهبرهنه کردهاند. در برخی نمونهها، تصاویر کودکان با لباس شنای تحریکآمیز یا اثراتی شبیه مایع جنسی گزارش شده که بخشی از آنها بعداً حذف شده است. این درحالی است که شرایط استفاده از X بهصراحت هرگونه «جنسیسازی یا بهرهکشی از کودکان» را ممنوع اعلام میکند.
ایلان ماسک اعلام کرده هرکس از Grok برای تولید محتوای غیرقانونی استفاده کند، مانند آپلودکننده محتوای غیرقانونی با او برخورد میشود؛ اما همزمان نسبت به درخواستهای موسوم به «undressing» موضع سختی نگرفته و حتی بعضی واکنشهای عمومی او در X با ایموجی خنده و آتش همراه بوده است. این رویکرد، فعالان و پژوهشگران حوزه خشونت جنسی آنلاین را نگران کرده است.
قانون چه میگوید و چرا ماجرا پیچیده است؟
در آمریکا، وزارت دادگستری برخی تصاویر دیجیتال «غیرقابلتشخیص از کودک واقعی» با محتوای جنسی را ذیل قوانین محتوای سوءاستفاده جنسی از کودکان (CSAM) ممنوع میداند. علاوهبراین، «قانون Take It Down» که در سال ۲۰۲۵ تصویب شده، پلتفرمهای مشخصی را ملزم میکند تصاویر صمیمیِ غیرتوافقی، از جمله نمونههای ساختهشده با هوش مصنوعی، را سریع حذف کنند. با اینحال، کارشناسان حقوقی که با The Verge گفتگو کردهاند تأکید میکنند محدوده دقیق رفتار غیرقانونی در مورد تصاویر جنسیِ ساختهشده با هوش مصنوعی همچنان مبهم است؛ مثلاً ممکن است تصویر غیراخلاقی از یک نوجوان شناگر، اگرچه شدیداً غیراخلاقی و آسیبزا است، اما لزوماً ذیل تعریف فعلی CSAM قرار نگیرد.
همزمان، سازمانهایی مانند Consumer Federation of America از نهادهای فدرال و دادستانهای ایالتی خواستهاند علیه xAI بهاتهام تولید و توزیع CSAM و تصاویر صمیمیِ غیرتوافقی مبتنیبر هوش مصنوعی اقدام کنند. با این حال متخصصان میگویند بهدلیل نبود سابقه قضایی کافی و تکیه قوانین بر «قصد آسیبزدن»، تعیین مسئولیت کیفری برای شرکتهای سازنده مدلها و پلتفرمهایی مانند X فعلاً «سرزمین ناشناخته» است.
فشار بینالمللی و اهمیت موضوع برای کاربران دیگر کشورها
علاوهبر آمریکا، دولتهایی در فرانسه، هند و مالزی نیز اعلام کردهاند استفاده سوء از قابلیتهای تصویری Grok و تولید محتوای جنسیِ مربوط به زنان و کودکان را زیر ذرهبین قرار میدهند و از xAI توضیح خواستهاند. کارشناسان پیشبینی میکنند سال پیش رو میتواند نقطه عطفی در شکلگیری پروندهها و احتمالا شکایتهای جمعی علیه تولیدکنندگان و میزبانان محتوای عریانسازیِ هوش مصنوعی باشد.
برای کاربران ایرانی هم این ماجرا یادآور این نکته است که هرچه ابزارهای هوش مصنوعی عمومیتر و قدرتمندتر میشوند، نیاز به سواد رسانهای، آگاهی حقوقی و استفاده مسئولانه از این فناوریها بیشتر میشود. در کنار استفادههای مفید، از تولید محتوا تا برنامهنویسی با ابزارهایی مانند خرید اکانت های هوشمصنوعی، ریسک سوءاستفادههای عمیقاً آسیبزا نیز رو به افزایش است و مقررات و استانداردهای ایمنی باید همزمان با این رشد توسعه پیدا کنند.
منبع خبر: The Verge
