ائتلافی از سازمانهای غیردولتی در آمریکا با ارسال یک نامه سرگشاده به دولت فدرال، خواستار تعلیق فوری استفاده از چتبات «Grok» محصول شرکت xAI در سازمانهای دولتی از جمله وزارت دفاع شدهاند. به گفته این گروهها، این مدل زبانی در ماههای اخیر به تولید گسترده تصاویر جنسی بدون رضایت، از جمله درباره زنان و برخی کودکان، دامن زده است.
اتهام تولید تصاویر جنسی اجباری و نگرانیهای ایمنی
بر اساس گزارشها، کاربران شبکه اجتماعی X از Grok خواستهاند عکسهای واقعی افراد را به تصاویر جنسی و صریح تبدیل کند و این روبات در بسیاری از موارد چنین خروجیهایی را تولید کرده است. برخی گزارشهای مستقل مدعیاند که این سیستم در هر ساعت هزاران تصویر صریح بدون رضایت تولید کرده که سپس در مقیاس وسیع روی پلتفرم X منتشر شده است.
نویسندگان نامه، از جمله گروههایی مانند Public Citizen و Center for AI and Digital Policy، میگویند ادامه استفاده دولت آمریکا از ابزاری که در سطح سیستمی قادر به تولید محتوای جنسی اجباری و حتی سوءاستفاده جنسی از کودکان است، با دستورالعملها و قوانین تازه این کشور در حوزه هوش مصنوعی تضاد دارد. آنها استناد میکنند که طبق راهنمای دفتر مدیریت و بودجه کاخ سفید، سامانههای هوش مصنوعی با ریسک جدی و غیرقابل کنترل باید متوقف شوند.
حضور Grok در دولت و ریسکهای امنیتی
xAI سال گذشته قراردادی با اداره خدمات عمومی آمریکا برای عرضه Grok به سازمانهای زیرمجموعه قوه مجریه امضا کرد و همچنین در کنار چند غول دیگر هوش مصنوعی، قراردادی بزرگ با وزارت دفاع به دست آورد. طبق این گزارش، Grok قرار است در شبکههای وزارت دفاع و برای کار با اسناد طبقهبندیشده و غیرطبقهبندیشده به کار گرفته شود؛ موضوعی که برخی کارشناسان امنیتی آن را بهدلیل ماهیت بسته و غیرشفاف این مدل، یک ریسک امنیت ملی میدانند.
به گفته منتقدان، Grok سابقه تولید خروجیهای ضدیهودی، جنسیتزده، تئوریهای توطئه و محتوای خشونتآمیز را نیز دارد. یک ارزیابی مستقل از ریسک برای خانوادهها نیز این چتبات را در میان خطرناکترین ابزارها برای کودکان و نوجوانان طبقهبندی کرده است. این سابقه باعث شده برخی دولتهای آسیایی موقتاً دسترسی به Grok را مسدود کنند و نهادهای نظارتی در اروپا و چند کشور دیگر نیز تحقیقاتی را درباره آن آغاز کنند.
چرا این موضوع برای صنعت هوش مصنوعی مهم است؟
درخواست تعلیق استفاده فدرال از Grok نشان میدهد که بازار سازمانی و دولتی هوش مصنوعی بیش از گذشته به بحث «ایمنی مدل» وابسته شده است. اگر یک مدل زبانی بهطور مکرر خروجیهای تبعیضآمیز یا محتوای جنسی اجباری تولید کند، ممکن است در حوزههایی مانند مسکن، کار یا عدالت نیز به تصمیمگیریهای ناعادلانه منجر شود. چنین فشارهایی میتواند شرکتها را وادار کند سامانههای پالایش محتوا و سازوکارهای پاسخگویی خود را تقویت کرده و رقابت بر سر «ایمنترین» مدل بهجای صرفاً «قدرتمندترین» مدل شدت بگیرد.
برای کاربران عادی، از جمله مخاطبان ایرانی که از سرویسهای بینالمللی هوش مصنوعی استفاده میکنند، این جدال یادآور اهمیت انتخاب ابزارهای معتبر و ایمن است. استفاده هوشمندانه از سرویسهای مختلف – از اکانت Grok تا دیگر پلتفرمها – نیازمند توجه به سیاستهای حریم خصوصی، کنترل محتوا و میزان پاسخگویی شرکتها در برابر سوءاستفادههاست. در همین راستا، کاربرانی که میخواهند بهصورت حرفهای از مدلهای مختلف استفاده کنند، میتوانند با خرید اکانت های هوشمصنوعی از فروشگاههای تخصصی، دسترسی مدیریتشدهتر و مطمئنتری به این ابزارها داشته باشند.
این نامه تازه سومین بار است که همین ائتلاف نسبت به رفتارهای Grok و تصمیم دولت برای بهکارگیری آن هشدار میدهد. اکنون آنها علاوه بر تعلیق فوری استفاده فدرال، خواستار تحقیق رسمی درباره فرایندهای ارزیابی ایمنی این چتبات و شفافسازی درباره میزان انطباق آن با الزامات دولتی شدهاند. باید دید نهادهای فدرال آمریکا در ماههای آینده چه پاسخی به این فشارها خواهند داد.
منبع خبر: TechCrunch
