جمعی از سناتورهای دموکرات آمریکا در نامهای رسمی از مدیران عامل اپل و گوگل خواستهاند اپلیکیشن شبکه اجتماعی X را بهدلیل عملکرد ربات هوش مصنوعی Grok که تصاویر افراد را بدون رضایت آنها بهصورت برهنه و جنسیسازیشده تولید میکند، از اپاستورهای خود حذف کنند.
اعتراض به دیپفیکهای غیراخلاقی Grok
بهگزارش ورج، رون وایدن، بن ری لوخان و اد مارکی در این نامه تأکید کردهاند که تولید دیپفیکهای غیراخلاقی از زنان و حتی ظاهراً برخی افراد کمسن، نقض آشکار شرایط استفاده از اپاستور اپل و پلیاستور گوگل است. به گفته آنها، X با اجازه دادن به چنین خروجیهایی از طریق ربات Grok «بیاعتنایی کامل» به مقررات پلتفرمهای توزیع اپلیکیشن نشان داده است.
سناتورها برای استدلال خود به سیاستهای دو فروشگاه اپلیکیشن اشاره کردهاند؛ از جمله بندهایی که صراحتاً تولید، انتشار یا تسهیل سوءاستفاده از کودکان و نمایش آنها در زمینههای جنسی را ممنوع میکند. آنها میگویند ادامه حضور اپلیکیشن X در این فروشگاهها، معیار دوگانهای را نشان میدهد؛ چرا که در گذشته برخی اپها صرفاً بهدلیل نگرانیهای دولتی درباره گزارشدادن فعالیت مأموران مهاجرتی از فروشگاهها حذف شدهاند، در حالی که آن اپها خود محتوای مضر یا غیرقانونی تولید نمیکردند.
چرا این موضوع برای صنعت هوش مصنوعی مهم است؟
حاشیههای اخیر پیرامون Grok نشان میدهد چگونه ابزارهای تولید تصویر مبتنیبر هوش مصنوعی میتوانند بهسرعت به سمت استفادههای سوء، مانند دیپفیکهای جنسی و نقض حریم خصوصی، منحرف شوند. فشار قانونگذاران آمریکایی بر اپل و گوگل میتواند باعث شود اپاستورها نقش فعالتری در نظارت بر قابلیتهای پرریسک مدلهای مولد ایفا کنند و حتی در مواردی، حذف کامل اپلیکیشنها را بهعنوان اهرم فشار به کار بگیرند.
این روند برای کاربران ایرانی نیز از این جهت اهمیت دارد که نشان میدهد بحث تنظیمگری هوش مصنوعی و حفاظت از حریم خصوصی، تنها محدود به خود ارائهدهندگان مدلها نیست و پلتفرمهای توزیع مانند اپاستورها هم زیر ذرهبین قرار گرفتهاند. از سوی دیگر، رشد سریع چتباتها و ابزارهای مولد تصویر باعث شده بسیاری از کاربران بهدنبال خرید اکانت های هوشمصنوعی و دسترسی مستقیم به این سرویسها باشند؛ موضوعی که حساسیت نسبت به استفاده مسئولانه و اخلاقی از این ابزارها را دوچندان میکند.
در نهایت باید دید اپل و گوگل در برابر این فشار سیاسی چه تصمیمی میگیرند و آیا حاضر میشوند اپلیکیشن X را بهدلیل عملکرد ربات Grok از فروشگاههای خود حذف کنند یا راهحلهای میانهتری مانند الزام به تغییرات فنی و محدودسازی قابلیتهای بحثبرانگیز این ربات را ترجیح خواهند داد.
منبع خبر: The Verge
