دادستان کل ایالت کالیفرنیا در آمریکا با ارسال یک نامه «توقف و خودداری» به استارتاپ هوش مصنوعی xAI، از این شرکت خواسته است فوراً جلوی تولید و انتشار دیپفیکهای جنسی و محتوای مرتبط با سوءاستفاده از کودکان را بگیرد. محور اصلی این پرونده، قابلیتهای چتبات Grok است که توسط xAI توسعه داده شده است.
اتهام تسهیل تولید انبوه تصاویر جنسی غیررضایتی
براساس بیانیه دفتر دادستان کل، بررسیهای اولیه نشان میدهد Grok و بهویژه حالت «spicy» آن برای تولید حجم زیادی از تصاویر صریح جنسیِ بدون رضایت، از جمله درباره زنان، دختران و حتی افراد خردسال، مورد سوءاستفاده قرار گرفته است. مقامهای ایالتی تأکید کردهاند که تولید این نوع محتوا، از جمله محتوای سوءاستفاده جنسی از کودکان، طبق قوانین کالیفرنیا غیرقانونی است و xAI باید ظرف چند روز نشان دهد چه اقداماتی برای مهار این سوءاستفاده انجام میدهد.
این فشار قانونی فقط به کالیفرنیا محدود نیست. در گزارشها آمده که نهادهای نظارتی در کشورهایی مانند ژاپن، کانادا و بریتانیا نیز در حال بررسی عملکرد Grok هستند و برخی دولتها بهطور موقت دسترسی به این پلتفرم را مسدود کردهاند. این در حالی است که xAI اخیراً برخی محدودیتها را روی قابلیتهای ویرایش تصویر اعمال کرده، اما ظاهراً این تغییرات برای متوقف کردن روند حقوقی کافی نبوده است.
چالش جهانی دیپفیکهای جنسی و مسئولیت پلتفرمهای هوش مصنوعی
رشد سریع ابزارهای رایگان تولید محتوای هوش مصنوعی، باعث موجی از دیپفیکهای جنسی و تصاویر غیررضایتی شده که قربانیان آن اغلب زنان و دختران هستند. این موضوع اکنون به یکی از جدیترین نگرانیها در تنظیمگری هوش مصنوعی تبدیل شده است و قانونگذاران در آمریکا و سایر کشورها از شرکتهای فناوری میخواهند سازوکارهای مؤثرتری برای شناسایی و مسدودسازی چنین محتواهایی پیادهسازی کنند.
پرونده xAI میتواند بهعنوان نمونهای مهم در تعیین حدود مسئولیت حقوقی سازندگان مدلهای مولد عمل کند و بر سایر ارائهدهندگان پلتفرمهای هوش مصنوعی نیز فشار بیشتری وارد کند تا سیاستهای ایمنی، فیلترینگ محتوا و نظارت بر سوءاستفاده کاربران را جدیتر پیگیری کنند. برای کاربران ایرانی نیز پیگیری این روندها اهمیت دارد، زیرا بسیاری از سرویسهای هوش مصنوعی جهانی، حتی با دور زدن محدودیتها، در داخل کشور مورد استفاده قرار میگیرند و آشنایی با خطرات و چارچوبهای حقوقی آنها برای استفاده مسئولانه ضروری است.
در کنار این تحولات، بسیاری از کاربران برای استفاده امنتر و حرفهایتر از ابزارهای مختلف هوش مصنوعی، به سراغ سرویسهای معتبر میروند. اگر قصد استفاده گسترده از مدلهای متنوع را دارید، میتوانید گزینههای مختلف خرید اکانت های هوشمصنوعی را بررسی کنید تا بهجای سرویسهای نامطمئن، از پلتفرمهای شناختهشده با تنظیمات حریم خصوصی و کنترل محتوا استفاده کنید.
این پرونده همچنین باعث شده کنگره آمریکا نیز از چند شرکت بزرگ فناوری و شبکههای اجتماعی توضیح بخواهد که چگونه میخواهند با گسترش دیپفیکهای جنسی مقابله کنند. فشار همزمان از سوی ایالتها و قانونگذاران فدرال میتواند به تسریع تدوین مقررات مشخصتری برای حوزه دیپفیک و محتوای مولدِ مبتنی بر هوش مصنوعی منجر شود.
منبع خبر: TechCrunch
