شرکت xAI متعلق به ایلان ماسک، پس از موجی از انتقادها، امکان تولید تصاویر جنسیشده از افراد واقعی توسط چتبات هوش مصنوعی Grok را روی پلتفرم X محدود کرده است. این تصمیم در ادامه نگرانیهای گسترده درباره استفاده سوء از مدلهای مولد تصویر و نقض حریم خصوصی کاربران گرفته شده است.
چه تغییری در Grok اعمال شده است؟
بر اساس گزارشها، Grok پیش از این میتوانست براساس درخواست کاربران، تصاویر تولیدی با ماهیت جنسی از چهره افراد واقعی بسازد؛ قابلیتی که از نظر بسیاری از کارشناسان میتواند به گسترش محتوای جعلی، آزار آنلاین و آسیب به آبرو و حریم خصوصی افراد منجر شود. اکنون xAI این قابلیت را محدود کرده تا چتبات نتواند به سادگی محتوای جنسیشده از اشخاص واقعی ایجاد کند.
این تصمیم در بستری اتخاذ شده که در آن شرکتهای بزرگ فناوری زیر فشار قانونگذاران، فعالان حوزه حقوق دیجیتال و افکار عمومی قرار دارند تا برای کنترل محتوای تولیدشده توسط هوش مصنوعی، بهویژه در حوزه پورن جعلی و تصاویر دستکاریشده، مسئولیتپذیرتر عمل کنند. برای کاربران ایرانی که از ابزارهای مختلف هوش مصنوعی استفاده میکنند، آشنایی با این نوع محدودیتها مهم است؛ زیرا بسیاری از پلتفرمها بهتدریج سیاستهای سختگیرانهتری روی تولید تصویر و متن اعمال میکنند.
در چنین فضایی، انتخاب سرویسهای معتبر برای کارهای آموزشی، کاری و خلاقانه اهمیت بیشتری پیدا میکند. اگر به دنبال استفاده قانونی و ایمن از مدلهای هوش مصنوعی هستید، میتوانید به سراغ خرید اکانت های هوشمصنوعی از پلتفرمهای معتبر بروید تا هم به امکانات کامل این ابزارها دسترسی داشته باشید و هم در چهارچوب سیاستهای محتوایی مشخص فعالیت کنید.
در سطح صنعت، اقدام xAI نشان میدهد که رقابت میان ارائهدهندگان مدلهای مولد دیگر فقط بر سر قدرت فنی نیست، بلکه نحوه مدیریت ریسکها، حفظ حریم خصوصی و جلوگیری از سوءاستفاده از فناوری نیز به یک مزیت رقابتی تبدیل شده است. احتمالاً در ماهها و سالهای آینده، شاهد شکلگیری قوانین مشخصتری در سطح ملی و بینالمللی برای محدود کردن تولید محتوای جنسی و خشونتآمیز توسط هوش مصنوعی خواهیم بود.
منبع خبر: CNBC
