فشار گروه‌های مدنی برای حذف ایکس و گوروک از اپ‌استورها

گروهی از سازمان‌های مدنی و مدافع حقوق زنان در آمریکا با انتشار دو نامه سرگشاده از تیم کوک و سوندار پیچای، مدیران عامل اپل و گوگل، خواسته‌اند اپلیکیشن‌های شبکه اجتماعی ایکس و چت‌بات هوش مصنوعی «گوروک» را از اپ‌استور و پلی‌استور حذف کنند. به ادعای این گروه‌ها، این پلتفرم‌ها مملو از تصاویر دیپ‌فیک جنسی بدون رضایت و حتی محتوای سوءاستفاده جنسی از کودکان هستند.

اتهام نقض سیاست‌های اپ‌استورها

در این نامه‌ها که توسط ائتلافی شامل ۲۸ گروه، از جمله سازمان‌های زنان و نهادهای ناظر بر فناوری امضا شده، آمده است که ابزار تصویری گوروک برای تولید انبوه «تصاویر صمیمی بدون رضایت» به‌کار می‌رود و این محتوا هم از نظر قانونی جرم است و هم به‌طور مستقیم با دستورالعمل‌های محتوایی اپل و گوگل در تضاد قرار دارد. امضاکنندگان می‌گویند با وجود هشدارهای مکرر درباره ریسک‌های این سامانه، ایکس و شرکت سازنده گوروک هنوز در فروشگاه‌های نرم‌افزاری در دسترس هستند.

در نامه خطاب به گوگل نیز استدلال مشابهی مطرح شده و این دو شرکت متهم شده‌اند که نه‌تنها به انتشار این نوع محتوا میدان می‌دهند، بلکه از طریق حضور این اپلیکیشن‌ها در اکوسیستم موبایل، از آن سود مالی نیز می‌برند. منتقدان همچنین می‌گویند محدود کردن قابلیت تولید و ویرایش تصویر گوروک به کاربران پولی، عملاً به «درآمدزایی از محتوای سوءاستفاده‌گرانه» منجر شده است.

اهمیت ماجرا برای صنعت هوش مصنوعی

این فشارها در قالب کارزار «Get Grok Gone» و هم‌زمان با کمپین گسترده‌تری برای مقابله با تولید و انتشار آنلاین تصاویر صمیمی بدون رضایت شکل گرفته است. پرونده گوروک، یکی از نمونه‌های پر سر و صدای چالش دیپ‌فیک‌های جنسی در نسل جدید مدل‌های مولد هوش مصنوعی است و می‌تواند بر نحوه تدوین مقررات آینده، استانداردهای اپ‌استورها و الزامات نظارتی برای شرکت‌های هوش مصنوعی تاثیر بگذارد.

برای کاربران ایرانی، این بحث یادآور اهمیت سواد رسانه‌ای و آگاهی از خطرات سوءاستفاده از ابزارهای هوش مصنوعی در حوزه حریم خصوصی است؛ در عین حال، بسیاری از کاربران داخلی برای استفاده امن و کنترل‌شده از هوش مصنوعی به سراغ سرویس‌های معتبر جهانی می‌روند و از راه‌حل‌هایی مانند خرید اکانت های هوش‌مصنوعی استفاده می‌کنند تا دسترسی خود را در چارچوب‌های مطمئن‌تری مدیریت کنند.

این درخواست‌ها فعلاً در قالب نامه‌های سرگشاده مطرح شده و اپل، گوگل و شرکت‌های پشت ایکس و گوروک هنوز واکنش رسمی گسترده‌ای فراتر از اقدامات محدودکننده قبلی اعلام نکرده‌اند. با این حال، ادامه این فشارها می‌تواند به بررسی‌های حقوقی و سیاستی جدی‌تری درباره نقش اپ‌استورها در مهار سوءاستفاده از ابزارهای هوش مصنوعی منجر شود.

منبع خبر: The Verge