یک گزارش جدید نشان میدهد فروشگاههای اپلیکیشن متعلق به دو شرکت بزرگ اکوسیستم موبایل، میزبان دهها اپلیکیشن هوش مصنوعی موسوم به «nudify» هستند که میتوانند افراد را در عکسها بهصورت برهنه شبیهسازی کنند. طبق این گزارش، برخی از این سرویسها از مدلهایی مشابه ابزارهایی مثل Grok استفاده میکنند و با وجود نگرانیهای گسترده درباره حریم خصوصی و آزار جنسی دیجیتال، همچنان در دسترس کاربران باقی ماندهاند.
اپهای برهنهساز هوش مصنوعی و چالش نظارت پلتفرمها
در این اپلیکیشنها، کاربر یک تصویر معمولی از خود یا دیگران را آپلود میکند و الگوریتم هوش مصنوعی، نسخهای دستکاریشده و شبهبرهنه از بدن فرد تولید میکند. کارشناسان حقوق دیجیتال میگویند این ابزارها عملاً راه را برای نوعی «پورن انتقامی» و اخاذی دیجیتال هموار میکند، زیرا تصاویر ساختگی میتوانند بدون رضایت فرد و بهسرعت در شبکههای اجتماعی پخش شوند.
بهگفته نویسندگان گزارش، دهها اپ از این دست در فروشگاههای رسمی موبایل پیدا شده که بعضی از آنها با عناوین و توضیحات مبهم، از فیلترهای نظارتی عبور کردهاند. منتقدان میگویند وقتی این اپها در استورهای رسمی عرضه میشوند، برای کاربر عادی نوعی «مهر تأیید» تلقی شده و تشخیص مرز بین استفاده سرگرمکننده و سوءاستفاده جدی بسیار دشوار میشود.
این پرونده برای صنعت هوش مصنوعی و پلتفرمهای موبایل یک هشدار جدی است. از یک سو، سرعت توسعه مدلهای تولید تصویر، امکان ساخت محتوای عمیقاً شخصی و واقعگرا را برای هر کاربری فراهم کرده است و از سوی دیگر، چارچوبهای حقوقی و سازوکارهای نظارتی هنوز با این سرعت هماهنگ نشدهاند. برای کاربران ایرانی هم که بسیاری از خدمات آنلاین را از طریق اپاستورها و ابزارهای هوش مصنوعی بینالمللی تهیه میکنند، شناخت این ریسکها و مدیریت هویت دیجیتال اهمیت زیادی دارد. در چنین فضایی، حتی هنگام استفاده از ابزارهای عمومیتر مثل چتباتها یا مدلهای مولد، بهتر است هنگام خرید اکانت های هوشمصنوعی و استفاده از آنها، حریم خصوصی و امنیت دادههای شخصی در اولویت قرار گیرد.
بحث بر سر اینکه آیا فروشگاههای اپ باید بهطور فعالتر این نوع برنامهها را شناسایی و حذف کنند، یا اینکه مسئولیت اصلی بر عهده سیاستگذاران و قانونگذاران است، همچنان ادامه دارد. با این حال، بسیاری از فعالان حقوق دیجیتال معتقدند تا زمانی که سازوکارهای شفافتری برای گزارش، بررسی و حذف سریع اپهای متخلف ایجاد نشود، خطر استفاده مجرمانه از فناوریهای مولد تصویر رو به افزایش خواهد بود.
منبع خبر: CNBC
