پلیس بریتانیا خطای گزارش اطلاعاتی را گردن کوپایلوت مایکروسافت انداخت

پلیس وست میدلندز در بریتانیا تأیید کرده است که یک گزارش اطلاعاتی درباره مسابقه فوتبال، بر اساس خروجی هوش مصنوعی مایکروسافت کوپایلوت تهیه شده و شامل اشاره به دیداری بوده که اصلاً وجود نداشته است. این اشتباه منجر به تصمیمات محدودکننده برای هواداران یک تیم خارجی شده بود و حالا انتقادها از اتکای بدون نظارت به ابزارهای هوش مصنوعی را تشدید کرده است.

کوپایلوت چگونه باعث اشتباه شد؟

ماجرا به گزارش اطلاعاتی مرتبط با یک بازی در لیگ اروپا برمی‌گردد که در آن از درگیری‌ها و جرایم نفرت‌انگیز در مسابقه‌ای قبلی میان یک تیم انگلیسی و تیمی از تل‌آویو صحبت شده بود. بعدها مشخص شد مسابقه‌ای که در گزارش به آن اشاره شده، در دنیای واقعی هرگز برگزار نشده و کوپایلوت آن را «هالوسینیت» یا عملاً اختراع کرده است. با این حال، این داده اشتباه در گزارش پلیس قرار گرفته و در ارزیابی ریسک مسابقه بعدی و اعمال محدودیت برای برخی هواداران نقش داشته است.

رئیس پلیس وست میدلندز در نامه‌ای رسمی به یک کمیته پارلمانی بریتانیا اعلام کرده که این نتیجه اشتباه مستقیماً حاصل استفاده از مایکروسافت کوپایلوت بوده است. او پیش‌تر هرگونه استفاده از هوش مصنوعی در تهیه گزارش را رد کرده و خطا را به جمع‌آوری داده از شبکه‌های اجتماعی نسبت داده بود، اما اکنون اعتراف جدید، بحث شفافیت درباره استفاده از هوش مصنوعی در نهادهای حساس را جدی‌تر کرده است.

چرا این ماجرا برای صنعت هوش مصنوعی مهم است؟

این پرونده بار دیگر نشان می‌دهد که مدل‌های زبانی بزرگ، حتی در ظاهر وظایف ساده‌ای مثل خلاصه‌سازی اطلاعات یا تهیه گزارش، می‌توانند اطلاعات نادرست و جعلی تولید کنند. هشدارهایی که در رابط کاربری این ابزارها درباره امکان بروز خطا دیده می‌شود، در عمل همیشه جدی گرفته نمی‌شود و وقتی پای تصمیمات امنیتی و حقوقی در میان باشد، تبعات یک «هالوسینیشن» می‌تواند بسیار گسترده باشد. برای کاربران حرفه‌ای و سازمانی، این نمونه نشان می‌دهد که اتکا به هوش مصنوعی باید همراه با فرایندهای بازبینی انسانی و سیاست‌های شفاف باشد.

برای خوانندگان ایرانی هم، این موضوع یادآور نیاز به سواد هوش مصنوعی است؛ یعنی در کنار بهره‌برداری از ابزارهایی مثل چت‌بات‌ها و دستیارهای هوشمند، باید محدودیت‌ها و ریسک‌های آن‌ها را شناخت. اگرچه بسیاری از کاربران به قصد افزایش بهره‌وری سراغ خرید اکانت های هوش‌مصنوعی و استفاده از سرویس‌های متنوع می‌روند، اما نمونه پلیس بریتانیا نشان می‌دهد که بدون کنترل انسانی و ارزیابی انتقادی، حتی معتبرترین ابزارها هم می‌توانند منجر به تصمیمات اشتباه شوند.

منبع خبر: The Verge