پلتفرم ایکس و شرکت هوش مصنوعی وابسته به آن، پس از انتقادهای جهانی، قابلیت تولید تصویر چتبات «گروک» را تنها به کاربران پولی این شبکه اجتماعی محدود کردهاند. این ابزار پیشتر امکان ویرایش و ساخت تصاویر جنسی و برهنه از افراد واقعی، از جمله کودکان، بازیگران و چهرههای شناختهشده را فراهم میکرد.
چه اتفاقی افتاد و چرا مهم است؟
قابلیت تولید تصویر گروک در ابتدا برای همه کاربران با محدودیت روزانه فعال بود و به آنها اجازه میداد عکس هر فردی را بارگذاری کرده و نسخه جنسیسازیشده یا برهنه از آن درخواست کنند. نتیجه این سیاست، موجی از تصاویر جنسی غیررضایتی، بهویژه از کودکان و زنان، بود که خشم دولتها و نهادهای نظارتی در نقاط مختلف جهان را برانگیخت.
پس از بالا گرفتن فشارها، ایکس اعلام کرد که از این پس، تولید و ویرایش تصویر از طریق گروک فقط برای مشترکان پولی در دسترس است. با این حال، در زمان انتشار گزارش تککرانچ، اپلیکیشن مستقل گروک همچنان به کاربران غیرپرداختکننده نیز اجازه میداد تصویر تولید کنند. ایلان ماسک و ایکس از یکسو استفاده غیرقانونی از این ابزار را محکوم کردهاند و تأکید میکنند که کاربران در صورت ساخت محتوای غیرقانونی، با همان پیامدهای انتشار مستقیم چنین محتواهایی روبهرو میشوند.
دولتهای بریتانیا، اتحادیه اروپا و هند به طور علنی از ایکس و گروک انتقاد کردهاند. اتحادیه اروپا از xAI خواسته مستندات مربوط به این چتبات را حفظ کند و هند نیز از ایکس خواسته فوراً برای جلوگیری از سوءاستفاده از این قابلیت اقدام کند، در غیر این صورت ممکن است حمایتهای قانونی مهم خود را در آن کشور از دست بدهد. نهاد ناظر ارتباطات در بریتانیا نیز اعلام کرده با xAI در این باره در تماس است.
این رخداد بار دیگر نشان میدهد که کنترل و قانونگذاری بر ابزارهای تولید محتوای هوش مصنوعی تا چه اندازه چالشبرانگیز است. برای کاربران ایرانی هم این بحث اهمیت دارد؛ زیرا سرویسهای مشابه در جهان، مانند چتباتها و تصویرسازهای پیشرفته، بهسرعت در دسترس قرار میگیرند و انتخاب آگاهانه میان سرویسها، از جمله استفاده از سرویسهای معتبر و قانونی برای خرید اکانت های هوشمصنوعی، میتواند از نظر حریم خصوصی و امنیت محتوای تولیدشده اهمیت زیادی داشته باشد.
از منظر صنعت، این پرونده احتمالاً به تشدید مقرراتگذاری بر مدلهای مولد تصویر، پیگیری حقوقی تولید محتوای جنسی غیررضایتی و الزام پلتفرمها به طراحی پیشگیرانهتر سامانههای هوش مصنوعی منجر خواهد شد؛ مسیری که بسیاری از بازیگران بزرگ این حوزه ناگزیر به تبعیت از آن هستند.
منبع خبر: TechCrunch
