یک گزارش جدید نشان میدهد که با وجود فشارها برای محدود کردن ابزارهای تولید تصاویر غیراخلاقی، دهها اپلیکیشن موسوم به «برهنهساز» (nudify) همچنان در فروشگاههای اپلیکیشن اپل و گوگل در دسترس کاربران بودهاند و میلیونها بار دانلود شدهاند.
گزارش TTP چه میگوید؟
بر اساس گزارش پروژه شفافیت فناوری (Tech Transparency Project)، در بررسی انجامشده روی اپاستور اپل و گوگلپلی، دهها اپ هوش مصنوعی شناسایی شده که میتوانند با استفاده از الگوریتمهای هوش مصنوعی، لباس را از روی عکس زنان حذف و آنها را بهصورت کاملاً یا تا حدی برهنه یا با پوشش بسیار کم نمایش دهند. طبق این گزارش، این اپها در مجموع صدها میلیون بار در سراسر جهان دانلود شده و درآمد قابل توجهی برای سازندگان خود ایجاد کردهاند.
این تحقیق پس از آن منتشر میشود که تمرکز افکار عمومی و نهادهای تنظیمگر روی قابلیت ویرایش تصویر در برخی سرویسهای مبتنی بر هوش مصنوعی، از جمله ابزار تصویرساز سرویس Grok، افزایش یافته بود؛ ابزاری که به تولید انبوه تصاویر جنسیسازیشده و غیررضایتمندانه از زنان و حتی کودکان متهم شده است. همزمان، نهادهای اروپایی و بریتانیایی در حال بررسی حقوقی این نوع سرویسها هستند.
واکنش اپل و گوگل و چالش نظارت بر اپها
بهگزارش رسانهها، گوگل پس از انتشار یافتههای TTP، تعدادی از این اپلیکیشنها را تعلیق کرده و اپل نیز شماری از آنها را از اپاستور حذف کرده است؛ هرچند برخی از آنها بعداً دوباره بازگردانده شدهاند. این نخستین بار نیست که مدلهای «برهنهساز» از فیلترهای بررسی فروشگاههای اپ عبور میکنند و پیشتر نیز گزارشهای مشابهی منتشر شده بود.
این ماجرا بار دیگر پرسشهای جدی درباره مسئولیت پلتفرمهای بزرگ در جلوگیری از انتشار ابزارهای تولید دیپفیک جنسی و آسیبهای ناشی از آن مطرح میکند. برای کاربران ایرانی هم، که بهدنبال استفاده امن از ابزارهای هوش مصنوعی هستند، شناخت ریسکها و انتخاب سرویسهای معتبر اهمیت زیادی دارد. اگر بهدنبال استفاده حرفهای از مدلهای متنی و تصویری هستید، بهتر است از سرویسهای شناختهشده و کنترلشده استفاده کنید؛ بهعنوان مثال، دسترسی به پلتفرمهای معتبر از طریق خرید اکانت های هوشمصنوعی میتواند گزینهای امنتر نسبت به اپهای ناشناس و پرریسک باشد.
کارشناسان حریم خصوصی میگویند رواج چنین اپهایی، خطر باجگیری، آزار آنلاین و نقض شدید حریم خصوصی افراد را تشدید میکند و نیازمند قانونگذاری دقیقتر و شفافیت بیشتر از سوی فروشگاههای اپلیکیشن است. در عین حال، سرعت توسعه ابزارهای هوش مصنوعی، کار نظارت سنتی بر اپها را برای شرکتهایی مانند اپل و گوگل دشوارتر کرده است.
منبع خبر: The Verge
