گزارشی جدید نشان میدهد چتبات Grok که توسط شرکت xAI توسعه یافته و بر بستر شبکه اجتماعی X در دسترس است، در پوشش تیراندازی اخیر در ساحل بوندای استرالیا چندین نکته اساسی را بهصورت نادرست بازگو کرده و اطلاعات گمراهکننده منتشر کرده است.
گروک چه چیزی را اشتباه گفت؟
طبق این گزارش، Grok در چند پست مختلف، فردی را که در جریان این حمله توانسته بود یکی از مهاجمان را خلع سلاح کند، به اشتباه معرفی کرده است. در یکی از موارد، این ربات فرد حاضر در تصویر را به عنوان یک گروگان اسرائیلی معرفی کرده و در مورد اصالت برخی ویدئوها و عکسهای منتشر شده از صحنه نیز ابهام و تردید ایجاد کرده است.
در پست دیگری، Grok نام و هویت شخص دیگری را – با اشاره به یک متخصص فناوری اطلاعات – به عنوان قهرمان ماجرا مطرح کرده و حتی به اطلاعاتی حاشیهای درباره درگیریهای منطقهای استناد کرده که ارتباط مستقیمی با این حادثه نداشته است. بخشی از این خطاها ظاهراً ناشی از ارجاع ربات به یک وبسایت خبری کماعتبار و احتمالاً تولید شده با هوش مصنوعی بوده است.
اصلاح اشتباه و پیامدها برای صنعت هوش مصنوعی
پس از جلب توجه رسانهها و کاربران، برخی از پستهای Grok اصلاح شده و ربات در پستی دیگر هویت فرد قهرمان حادثه را به درستی بازتاب داده و توضیح داده که این «سوءتفاهم» از روی پستهای وایرالشده و گزارشهای اشتباه ناشی شده است. با این حال، این رخداد دوباره نگرانیها درباره اتکای شبکههای اجتماعی و کاربران عادی به چتباتهای هوش مصنوعی برای دریافت خبرهای فوری، بهویژه در شرایط بحرانی، را پررنگ کرده است.
برای خوانندگان ایرانی، این ماجرا نمونهای روشن از ریسک استفاده از ابزارهای هوش مصنوعی به عنوان منبع خبر است؛ ابزاری که میتواند در چند ثانیه محتوایی بسیار قانعکننده اما نادرست تولید و در مقیاس گسترده منتشر کند. چنین خطاهایی میتواند بر افکار عمومی، پوشش رسانهای و حتی تصمیمگیری سیاستگذاران اثر بگذارد و لزوم نظارت، شفافیت و معیارهای مسئولانه در طراحی این سامانهها را یادآوری میکند.
منبع خبر: TechCrunch
