پلیس فرانسه با همراهی یوروپل و واحد جرایم سایبری دادستانی پاریس، به دفتر شبکه اجتماعی ایکس در پاریس یورش برده است. این اقدام بخشی از تحقیقات قضایی گستردهای است که هم شبکه اجتماعی ایکس و هم مدل هوش مصنوعی Grok را هدف قرار داده و همزمان در بریتانیا نیز بررسیهای جداگانهای در جریان است.
اتهامات علیه ایکس و مدل هوش مصنوعی Grok چیست؟
بر اساس گزارشها، این پرونده ابتدا در سال گذشته در فرانسه گشوده شد و اکنون طیف وسیعی از اتهامات را پوشش میدهد؛ از «همدستی در نگهداری و توزیع محتوای هرزهنگاری کودکان» گرفته تا «انکار جنایت علیه بشریت» که به محتوای مرتبط با انکار هولوکاست روی این پلتفرم نسبت داده میشود. علاوه بر این، ادعاهایی درباره دستکاری الگوریتمی و استخراج غیرقانونی دادهها از سوی ایکس نیز مطرح شده است.
دادستانی پاریس همچنین ایلان ماسک و لیندا یاکارینو، مدیرعامل پیشین ایکس، را برای ادای توضیحات در جلسات استماع در ماه آوریل فراخوانده است. در همین حال، در بریتانیا، دفتر کمیسر اطلاعات (ICO) یک تحقیق رسمی جداگانه درباره ایکس، شرکت xAI و مدل Grok آغاز کرده تا بررسی کند این سامانه تا چه حد میتواند به تولید تصاویر و ویدئوهای جنسی و بالقوه مضر کمک کند. نهاد ناظر رسانهای Ofcom نیز تحقیق جداگانهای درباره ایکس در دست دارد و اعلام کرده همچنان در حال جمعآوری شواهد است تا مشخص شود این پلتفرم قوانین را نقض کرده است یا نه.
نقش هوش مصنوعی و دغدغههای تنظیمگری
ریشه بخش مهمی از این تحقیقات به موجی از «دیپفیکهای جنسی بدون رضایت» بازمیگردد که با استفاده از مدل Grok تولید و در پلتفرم ایکس منتشر شدهاند. گزارشها نشان میدهد این محتواها طی هفتهها همچنان در گردش بودهاند؛ در حالی که ایکس مدعی شده قابلیتهای مربوطه را محدود کرده است. چنین پروندههایی، برای صنعت فناوری و هوش مصنوعی، یادآوری جدی از مسئولیت پلتفرمها در کنترل خروجی مدلهای مولد و محافظت از کاربران در برابر آزار، سوءاستفاده و محتوای غیرقانونی است.
برای کاربران و کسبوکارهای ایرانی که از شبکههای اجتماعی جهانی و ابزارهای هوش مصنوعی استفاده میکنند، این تحولات نشان میدهد مقرراتگذاری پیرامون هوش مصنوعی و محتوای کاربرساز به سرعت در حال تشدید است و هر پلتفرمی که بر پایه مدلهای مولد کار میکند باید سازوکارهای شفاف نظارت، گزارشدهی و حذف محتوای مضر داشته باشد. در همین فضا، استفاده مسئولانه از ابزارهای هوشمند و انتخاب سرویسهای معتبر، چه برای کاربری شخصی و چه سازمانی، اهمیت بیشتری پیدا میکند؛ بهویژه هنگام برنامهریزی برای خرید اکانت های هوشمصنوعی و تکیه بر آنها در تولید محتوا.
در زمان انتشار این گزارش، پلتفرم ایکس پاسخی رسمی به درخواست رسانهها برای توضیح بیشتر درباره این یورش و تحقیقات جدید ارائه نداده است. روند حقوقی در فرانسه و بریتانیا میتواند در نهایت به جریمههای سنگین، محدودیتهای عملیاتی یا تعهدات جدید برای مدیریت محتوای مبتنی بر هوش مصنوعی بینجامد؛ روندی که بهطور غیرمستقیم بر سایر پلتفرمها و ارائهدهندگان مدلهای هوش مصنوعی نیز فشار تنظیمگری بیشتری وارد خواهد کرد.
منبع خبر: The Verge
