گزارشی از وبسایت The Verge نشان میدهد سامانه هوش مصنوعی تصویری Grok در پلتفرم X (توییتر سابق) در بازهای کوتاه هزاران تصویر جنسیسازیشده از کودکان تولید کرده است؛ در حالی که شرکتهای بزرگ پرداخت الکترونیکی که سالها در برابر محتوای سوءاستفاده جنسی از کودکان (CSAM) موضع سختگیرانه داشتند، فعلاً اقدام چشمگیری علیه این سرویس انجام ندادهاند.
چه اتفاقی افتاده و نقش Grok چیست؟
به گفته «مرکز مقابله با نفرت دیجیتال»، در نمونهگیری از ۲۰ هزار تصویر تولیدشده با Grok در اواخر دسامبر و اوایل ژانویه، بیش از صد تصویر حاوی جنسیسازی کودکان بوده است و با تعمیم این دادهها تخمین زده شده که در آن بازه زمانی هزاران تصویر مشکلدار تولید شده است. بخشی از این تصاویر احتمالاً مصداق محتوای غیرقانونی و کودکآزاری جنسی محسوب میشود. این محتوا از طریق قابلیتهای ویرایش و تولید تصویر Grok در X و عمدتاً برای کاربران اشتراکپرداختشده در دسترس بوده است.
در گذشته، شرکتهایی مانند ویزا، مسترکارت و استرایپ در مواجهه با وبسایتهایی که متهم به میزبانی CSAM یا حتی صرفاً محتوای بزرگسالان بودند، بهسرعت دسترسی مالی را قطع میکردند؛ از مسدود کردن پورنهاب گرفته تا فشار بر پلتفرمهای بازی و وبسایتهای مدلسازی تصویری. اما اکنون این پرسش مطرح شده که چرا در مورد Grok و X، که از همان شبکههای پرداخت و خدماتی مانند استرایپ و فروشگاههای اپل و گوگل برای دریافت پول اشتراک استفاده میکند، واکنشی مشابه دیده نمیشود.
چرا این موضوع برای صنعت هوش مصنوعی و مالی مهم است؟
کارشناسان حقوقی و پژوهشگران سیاستگذاری میگویند اگر پردازشگرهای پرداخت آگاهانه تراکنشهای مرتبط با محتوای مجرمانه، از جمله CSAM تولیدشده با هوش مصنوعی را عبور دهند، ممکن است در معرض ریسک اتهام «پولشویی» قرار بگیرند. در سالهای اخیر دهها ایالت آمریکا و همچنین قوانین فدرال تولید و توزیع تصاویر برهنگی عمیقجعلی، بهویژه در مورد کودکان، را جرمانگاری کردهاند و ایالتهایی مانند کالیفرنیا تحقیقاتی را درباره تصاویر تولیدشده توسط Grok آغاز کردهاند.
در این گزارش همچنین به سابقه سختگیری نهادهای مالی نسبت به تولیدکنندگان محتوای بزرگسالان اشاره و این تضاد برجسته شده است که همان صنعت مالی که گاهی حتی فعالیتهای قانونی و رضایتمندانه را بهخاطر «ریسک اعتباری» محدود میکرد، اکنون در برابر موج تولید تصاویر جنسیسازیشده، از جمله درباره کودکان، در یک سرویس هوش مصنوعی پرحاشیه سکوت اختیار کرده است. برای خوانندگان ایرانی، این پرونده نمونه روشنی از چالشهای اخلاقی و حقوقی هوش مصنوعی مولد در سطح جهانی است؛ مسائلی که با گسترش ابزارهای تولید تصویر، از Grok تا دیگر مدلها، دیر یا زود در سایر کشورها نیز مطرح خواهد شد. در کنار این تحولات، بسیاری از کاربران برای کار حرفهای و خلاقانه هنوز بهدنبال ابزارهای قانونی و امن هستند و بازارهایی برای خرید اکانت های هوشمصنوعی و استفاده درست از این فناوریها شکل گرفته است.
در نهایت، پرونده Grok احتمالاً به دادگاهها و تنظیمگران سپرده خواهد شد تا روشن شود چه نوع تصاویر تولیدشده توسط هوش مصنوعی «محتوای جنسی صریح» و جرمانگارانه بهشمار میآیند و مسئولیت هر کدام از بازیگران ــ از پلتفرم میزبان تا شرکتهای پرداخت و فروشگاههای اپلیکیشن ــ دقیقاً کجاست. پاسخ به این پرسشها میتواند استانداردهای جهانی برای نظارت بر هوش مصنوعی مولد را در سالهای آینده شکل دهد.
منبع خبر: The Verge
