گروهی از سناتورهای آمریکا با ارسال نامهای به مدیران X، متا، آلفابت، اسنپ، ردیت و تیکتاک، نسبت به گسترش دیپفیکهای جنسی و تصاویر دستکاریشده غیرداوطلبانه که با هوش مصنوعی تولید میشوند هشدار داده و خواستار شفافسازی درباره سیاستها و ابزارهای این شرکتها برای مقابله با این محتوا شدهاند.
سناتورها چه میخواهند؟
در این نامه از شرکتها خواسته شده تعاریف خود از «دیپفیک»، «تصویر صمیمی غیرداوطلبانه» و اصطلاحات مشابه را ارائه کنند و توضیح دهند چه سیاستهایی برای شناسایی، محدودسازی و حذف تصاویر جنسی ساختگی، از جمله «برهنهسازی مجازی» و تغییر لباس افراد در عکسها، در پلتفرمهایشان اجرا میشود. سناتورها همچنین خواستهاند تمام اسناد مربوط به تولید، تشخیص، تعدیل و حتی کسب درآمد از این نوع تصاویر حفظ شود.
این اقدام تنها چند ساعت پس از آن انجام شد که X اعلام کرد قابلیتهای تصویری هوش مصنوعی گراک را محدود کرده و ایجاد یا ویرایش تصاویر افراد واقعی با پوشش تحریکآمیز را ممنوع میکند. گزارشهای رسانهای نشان داده بود که گراک و ابزارهای مشابه میتوانند بهراحتی تصاویر جنسی و حتی محتوای نامناسب مرتبط با کودکان تولید کنند؛ مسألهای که منتقدان آن را نشانه ناکارآمدی گاردریلها و سیستمهای نظارتی فعلی میدانند.
چرا این موضوع برای صنعت هوش مصنوعی مهم است؟
دیپفیکهای جنسی ابتدا در انجمنهایی مانند ردیت مطرح شدند و حالا به شبکههای اجتماعی جریان اصلی و مدلهای تولید تصویر و ویدئو گسترش یافتهاند. از متا و تیکتاک گرفته تا پلتفرمهای پیامرسان و سرویسهای چینی ویدئو، همگی با چالش محتوای دستکاریشده و برهنهسازی مجازی مواجه هستند. در حالی که در برخی کشورها قوانین تازهای برای جرمانگاری این نوع محتوا تصویب شده، تمرکز بسیاری از مقررات فعلی هنوز بیشتر بر کاربران است تا خود پلتفرمها و سازندگان مدلهای هوش مصنوعی.
برای کاربران ایرانی نیز این بحث از دو جهت اهمیت دارد: از یک سو، استفاده روزافزون از ابزارهای تولید تصویر و ویدئو در داخل و خارج میتواند خطر سوءاستفاده از تصاویر شخصی را افزایش دهد؛ از سوی دیگر، دنبال کردن این تحولات به تدوین سیاستها و آگاهیبخشی بهتر در سطح فردی کمک میکند. هنگام استفاده از ابزارهای مولد تصویر و چتباتها، انتخاب سرویسهای معتبر و آگاهانه و در نظر گرفتن حریم خصوصی اهمیت زیادی دارد؛ بهویژه زمانی که کاربران برای خرید اکانت های هوشمصنوعی و دسترسی به مدلهای پیشرفته اقدام میکنند.
در سطح قانونگذاری نیز، نامه سناتورها همزمان با طرح قوانین جدید در برخی ایالتهای آمریکا برای الزامیکردن برچسبگذاری محتوای تولیدشده با هوش مصنوعی و محدودکردن دیپفیکهای انتخاباتی منتشر شده است؛ نشانهای از اینکه بحث تنظیمگری هوش مصنوعی از حوزه فنی فراتر رفته و به موضوعی جدی در حریم خصوصی، امنیت و دموکراسی تبدیل شده است.
منبع خبر: TechCrunch
