تحقیق اتحادیه اروپا از ایکس به‌خاطر دیپ‌فیک‌های جنسی گروک

اتحادیه اروپا اعلام کرده که به‌دلیل تولید و انتشار دیپ‌فیک‌های جنسی توسط چت‌بات هوش مصنوعی «گروک» در پلتفرم ایکس، تحقیق رسمی تازه‌ای را علیه این شبکه اجتماعی آغاز می‌کند. تمرکز اصلی این تحقیق بر روی این است که آیا ایکس پیش از عرضه و گسترش قابلیت‌های تصویری گروک، ریسک‌های آن را به‌درستی ارزیابی و مهار کرده است یا خیر.

گروک چه مشکلی برای ایکس ایجاد کرده است؟

گروک، چت‌بات هوش مصنوعی یکپارچه با پلتفرم ایکس، به‌دلیل امکان ویرایش و تولید تصویر با استفاده از هوش مصنوعی، در مرکز یک بحران تازه قرار گرفته است. گزارش‌ها نشان می‌دهد این ابزار در برخی موارد به درخواست کاربران برای ساخت تصاویر جنسی‌سازی‌شده از زنان و حتی افراد کم‌سن پاسخ داده و همین موضوع موجی از انتقادها از سوی گروه‌های حامی حقوق کودکان، فعالان و قانون‌گذاران در کشورهای مختلف به‌همراه داشته است.

پس از بالا گرفتن اعتراض‌ها، ایکس دسترسی عمومی به قابلیت ویرایش تصویر در پاسخ‌های عمومی را پشت paywall برده، اما امکان تولید تصویر از طریق رابط چتِ گروک همچنان برای کاربران موجود است. حالا کمیسیون اروپا می‌خواهد بر اساس قانون «خدمات دیجیتال» بررسی کند آیا ایکس به‌عنوان یک پلتفرم بسیار بزرگ، سازوکار کافی برای جلوگیری از سوءاستفاده از این ابزار و کاهش ریسک محتواهای مضر، از جمله دیپ‌فیک‌های جنسی، در نظر گرفته است یا نه.

پیامدهای حقوقی برای ایکس و صنعت هوش مصنوعی

این پرونده بخشی از یک تحقیق گسترده‌تر است که از سال ۲۰۲۳ درباره مدیریت محتوا و سیستم‌های توصیه‌گر ایکس جریان دارد و اکنون شامل بخش‌های مبتنی بر گروک نیز شده است. در صورت احراز نقض قانون خدمات دیجیتال، ایکس ممکن است با جریمه‌هایی تا چند درصد از درآمد سالانه جهانی خود روبه‌رو شود؛ سناریویی که می‌تواند برای دیگر پلتفرم‌هایی که از مدل‌های هوش مصنوعی مولد استفاده می‌کنند نیز هشداری جدی باشد.

برای کاربران ایرانی و کسب‌وکارهای فعال در حوزه هوش مصنوعی، این پرونده نمونه روشنی است از این‌که تنظیم‌گری و قوانین محلی در جهان چگونه می‌تواند بر طراحی، عرضه و حتی مدل درآمدی سرویس‌های هوش مصنوعی اثر بگذارد. هم‌زمان، رشد سریع ابزارهای مولد تصویر و متن، تقاضا برای ابزارهای امن‌تر و حرفه‌ای‌تر را افزایش داده است و بسیاری از کاربران به‌دنبال خرید اکانت های هوش‌مصنوعی قابل اعتماد و دارای سیاست‌های شفاف در زمینه حریم خصوصی و سوءاستفاده از محتوا هستند.

به‌طور کلی، پرونده تازه ایکس در اروپا نشان می‌دهد که دوره «بدون نظارت» برای پلتفرم‌های بزرگ و محصولات هوش مصنوعی رو به پایان است و شرکت‌ها ناچارند از ابتدا، مسائل ایمنی، حفاظت از کودکان و حقوق شهروندی را در معماری محصولات خود لحاظ کنند. منبع خبر: The Verge