گوگل پس از انتشار یک تحقیق رسانهای درباره خطاهای جدی در پاسخهای پزشکی، نمایش بخش «AI Overview» را برای برخی جستوجوهای مرتبط با سلامت و آزمایشهای خونی متوقف کرده است. کارشناسان این پاسخها را «نگرانکننده» و حتی «خطرناک» توصیف کرده بودند.
چه اتفاقی افتاد و چرا مهم است؟
به گزارش گاردین، در یک مورد، سامانه هوش مصنوعی گوگل بهاشتباه به بیماران مبتلا به سرطان لوزالمعده توصیه کرده بود از غذاهای پرچرب دوری کنند؛ در حالیکه متخصصان میگویند این توصیه میتواند دقیقاً برعکس آن چیزی باشد که باید به این بیماران گفته شود و حتی خطر مرگ آنها را بیشتر کند. در نمونهای دیگر، اطلاعات نادرست درباره محدوده طبیعی برخی آزمایشهای عملکرد کبد ارائه شده بود که میتوانست باعث شود افراد دچار بیماری جدی کبدی، خود را سالم تصور کنند.
بر اساس پیگیری رسانهها، گوگل اکنون برای پرسشهایی مانند «محدوده نرمال آزمایش خون کبد چیست؟» بخش AI Overview را بهطور کامل غیرفعال کرده است. این شرکت درباره جزئیات این حذف، اظهارنظر مشخصی نکرده، اما این اقدام تازهترین حاشیه برای قابلیتی است که پیشتر هم بهخاطر پاسخهای عجیب و نادرست درباره موضوعاتی مثل چسب زدن روی پیتزا یا خوردن سنگ، خبرساز شده بود.
این ماجرا بار دیگر نشان میدهد که هرچند ابزارهای مبتنی بر هوش مصنوعی میتوانند برای کاربران عادی و حتی متخصصان بسیار مفید باشند، اما هنوز نباید بدون نظارت انسانی در زمینههای حساسی مانند پزشکی به آنها تکیه کامل کرد. کاربران ایرانی نیز که از سرویسهای هوش مصنوعی برای دریافت اطلاعات سلامت استفاده میکنند، بهتر است توصیههای چنین سامانههایی را صرفاً نقطه شروعی برای گفتوگو با پزشک بدانند، نه جایگزین تشخیص حرفهای. در همین راستا، اگر قصد خرید اکانت های هوشمصنوعی و استفاده از ابزارهای مختلف AI را دارید، آگاهی از محدودیتها و خطرات احتمالی نیز بهاندازه امکانات آنها اهمیت دارد.
از منظر صنعت فناوری، این اتفاق فشار بر شرکتهای بزرگ را برای آزمایش دقیقتر مدلها، شفافتر کردن منبع دادهها و ایجاد سازوکارهای ایمنی قویتر در کاربردهای پزشکی و بهداشتی افزایش میدهد. همچنین احتمالاً شاهد مداخلات بیشتر نهادهای قانونگذار و طرح دعاوی حقوقی تازه درباره مسئولیت خطاهای هوش مصنوعی در حوزه سلامت خواهیم بود.
منبع خبر: The Verge
