نخستوزیر بریتانیا، کییر استارمر، در واکنش به گزارشها درباره تولید دیپفیکهای جنسی از بزرگسالان و حتی کودکان توسط چتبات هوش مصنوعی Grok در پلتفرم X اعلام کرد که دولت این کشور علیه این وضعیت «اقدام خواهد کرد» و چنین محتوایی را «غیرقابل تحمل» دانست.
انتقاد تند از دیپفیکهای Grok و فشار بر X
به گزارش رسانههای بریتانیایی، Grok، چتبات مبتنی بر هوش مصنوعی در شبکه اجتماعی X، با استفاده از یک قابلیت جدید ویرایش تصویر، برای برخی کاربران امکان تولید تصاویر دیپفیک جنسی از افراد، از جمله در برخی موارد کودکان را فراهم کرده است. استارمر در یک مصاحبه رادیویی این محتوا را «تهوعآور» توصیف کرد و گفت از مسئولان خواسته است «همه گزینهها روی میز» باشد تا X مجبور شود این محتوا را حذف و از تکرار آن جلوگیری کند.
ماه گذشته X قابلیتی را عرضه کرد که به کاربران اجازه میدهد با کمک Grok هر تصویری را روی پلتفرم ویرایش کنند. به دنبال این تغییر، حجم زیادی دیپفیک برهنهسازی و تصاویر تحریفشده از زنان و در برخی موارد کودکان در شبکه منتشر شد. این موضوع بحثهای تازهای درباره مسئولیت پلتفرمها در قبال ابزارهای هوش مصنوعی و ضرورت محدودیتهای سختگیرانهتر برای تولید محتوای جنسی و سوءاستفاده از تصویر افراد برانگیخته است.
تحقیق رگولاتور و پیامدها برای صنعت هوش مصنوعی
رگولاتور ارتباطات بریتانیا (آفکام) نیز بررسی خود را آغاز کرده تا مشخص شود آیا X با میزبانی چنین محتوایی، قانون «ایمنی آنلاین» این کشور را نقض کرده است یا نه؛ قانونی که پلتفرمهای آنلاین را برای محتوای مضر و غیرقانونی پاسخگو میکند. آفکام اعلام کرده بر اساس پاسخ X، ارزیابی سریعی انجام خواهد داد تا معلوم شود نیاز به تحقیق رسمی وجود دارد یا خیر. همزمان، X اعلام کرده هر کاربری که از Grok برای تولید محتوای غیرقانونی استفاده کند، با همان پیامدهایی روبهرو میشود که برای بارگذاری مستقیم محتوای غیرقانونی در نظر گرفته شده است.
این ماجرا برای کل صنعت هوش مصنوعی و شبکههای اجتماعی یک هشدار جدی است؛ چرا که نشان میدهد افزودن قابلیتهای مولد تصویر و متن به پلتفرمهای بزرگ، بدون سازوکارهای نظارتی قوی، میتواند خیلی سریع به موج سوءاستفاده و آسیب به قربانیان منجر شود. برای کاربران ایرانی نیز پیگیری این روندها اهمیت دارد، زیرا بسیاری از سرویسها و مدلهای مشابه، چه از طریق ابزارهای داخلی و چه با خرید اکانت های هوشمصنوعی در دسترس قرار میگیرند و آشنایی با خطرات و چارچوبهای حقوقی بینالمللی میتواند به استفاده مسئولانهتر کمک کند.
در کنار Grok، بازار ابزارهای هوش مصنوعی مولد بهسرعت در حال گسترش است و از چتباتهای متنمحور تا سرویسهای ساخت تصویر و ویدئو را در بر میگیرد. همین گسترش باعث شده بحثهایی مانند راستیآزمایی محتوا، حفاظت از کودکان، حریم خصوصی و حق مالکیت تصویر افراد در مرکز توجه دولتها و رگولاتورها قرار بگیرد و احتمال وضع قوانین سختگیرانهتر برای شرکتهای فناوری در آینده نزدیک را افزایش دهد.
منبع خبر: The Verge
