یک دعوی حقوقی تازه در ایالت نیوجرسی آمریکا علیه اپلیکیشن ClothOff، ابعاد تازهای از بحران پورن دیپفیک و ناتوانی قانون برای مهار آن را آشکار کرده است. این پرونده نشان میدهد حتی وقتی خروجی یک ابزار هوش مصنوعی بهروشنی مصداق محتوای سوءاستفاده جنسی از کودکان است، بستن پلتفرم و رساندن عدالت به قربانیان کار سادهای نیست.
جزئیات پرونده ClothOff و قربانیان نوجوان
به گزارش تککرانچ، کلینیک حقوقی دانشکده حقوق ییل در اکتبر سال گذشته علیه ClothOff طرح دعوی کرده است؛ اپلیکیشنی که بیش از دو سال است با برهنهکردن تصاویر کاربران، بهویژه دختران نوجوان، در شبکههای اجتماعی و پلتفرمهای پیامرسان استفاده میشود. شاکی اصلی پرونده یک دانشآموز دبیرستانی در نیوجرسی است که همکلاسیهایش عکسهای اینستاگرامی او را در ۱۴ سالگی با کمک ClothOff به تصاویر برهنه تبدیل کردهاند؛ تصاویری که از نظر قانون آمریکا بهعنوان محتوای سوءاستفاده جنسی از کودکان طبقهبندی میشود.
با وجود غیرقانونی بودن آشکار این تصاویر، مقامات محلی از پیگیری کیفری خودداری کردهاند؛ از جمله بهدلیل دشواری جمعآوری ادله از دستگاههای مظنونان. همزمان، پیدا کردن گردانندگان ClothOff نیز پیچیده است؛ این سرویس در جزایر ویرجین بریتانیا ثبت شده و بنا به گفته وکلای پرونده، احتمالاً توسط افرادی در بلاروس و شاید در قالب شبکهای بزرگتر اداره میشود. این نشان میدهد حتی پس از حذف یک اپلیکیشن از فروشگاهها و شبکههای اجتماعی، توقف کامل فعالیت آن در وب و باتهای تلگرام تا چه حد سخت است.
چرا پیگرد پلتفرمهای هوش مصنوعی دشوار است؟
در کنار ClothOff، موج اخیر تصاویر پورن دیپفیک که با استفاده از مدل Grok متعلق به xAI تولید شده و شامل قربانیان زیر سن قانونی هم بوده، بحث مسئولیت حقوقی پلتفرمهای هوش مصنوعی را داغتر کرده است. در آمریکا قوانین متعددی علیه پورن دیپفیک و بهویژه محتوای سوءاستفاده جنسی از کودکان وجود دارد، اما این قوانین در عمل بیشتر کاربران نهایی را هدف میگیرند تا پلتفرمهای مولد. برای محکومکردن یک شرکت، شاکیان باید نیت آسیبرسانی یا بیتوجهی عامدانه آن به سوءاستفادهها را اثبات کنند؛ کاری که در مورد ابزارهای «عمومی» مانند Grok بسیار پیچیدهتر از سرویسهایی است که صراحتاً برای تولید پورن دیپفیک طراحی و تبلیغ شدهاند.
کارشناسان حقوقی میگویند در حالی که محتوای سوءاستفاده جنسی از کودکان خارج از حمایت متمم اول قانون اساسی آمریکا است، ابزارهای مولد تصویر و متن که میتوانند هزاران کاربرد مشروع دیگر هم داشته باشند، در لبه خاکستری قانون قرار میگیرند. به همین دلیل است که واکنشها به ماجرا در خارج از آمریکا شدیدتر بوده؛ از تلاش برخی کشورها برای مسدود کردن دسترسی به چتبات گرفته تا آغاز تحقیقات رسمی تنظیمگران در اروپا و آسیا. این روند میتواند در آینده روی نحوه طراحی و محدودسازی ابزارهای هوش مصنوعی در سراسر جهان، از جمله برای کاربرانی در ایران، تأثیر بگذارد.
پیامدها برای آینده تنظیمگری هوش مصنوعی
پرونده نیوجرسی و سروصدای جهانی پیرامون موج جدید پورن دیپفیک، فشارها بر قانونگذاران و شرکتهای فعال در حوزه هوش مصنوعی را افزایش داده است تا سازوکارهای پیشگیرانه و پاسخگویی شفافتری ارائه کنند؛ از شناسایی و جلوگیری از تولید محتوای غیرتوافقی گرفته تا حذف سریع آن از سرورهای ابری. برای کاربران ایرانی نیز این بحثها مهم است، زیرا محبوبیت ابزارهای هوش مصنوعی مولد رو به افزایش است و آگاهی از ریسکها و حقوق فردی در کار با این سرویسها اهمیت زیادی دارد. در همین فضا، بسیاری از کاربران برای استفاده امنتر از سرویسهای مختلف به سراغ خرید اکانت های هوشمصنوعی از پلتفرمهای معتبر میروند تا کنترل بیشتری بر تنظیمات حریم خصوصی و امنیت خود داشته باشند.
این پروندهها هنوز در جریان است و نتیجه نهایی آنها میتواند مسیر قانونگذاری آینده در حوزه دیپفیک و هوش مصنوعی را مشخص کند؛ مسیری که تعادل بین آزادی بیان، نوآوری فناورانه و حفاظت از کرامت و امنیت قربانیان را هدف قرار میدهد.
منبع خبر: TechCrunch
