گوگل پس از انتشار گزارشی از سوی گاردین درباره پاسخهای گمراهکننده در زمینه سلامت، بخشی از قابلیت «AI Overviews» خود را برای برخی پرسوجوهای پزشکی حساس از نتایج جستوجو حذف کرده است. این بخش، خلاصهای تولیدشده با هوش مصنوعی در بالای نتایج جستوجو نمایش میداد.
چه چیزی تغییر کرده است؟
طبق گزارشها، زمانی که کاربران عباراتی مانند «محدوده نرمال تست خون کبد» یا «محدوده نرمال تست عملکرد کبد» را در گوگل جستوجو میکردند، AI Overviews مقادیری را نمایش میداد که تفاوتهای مربوط به جنسیت، ملیت، سن یا دیگر عوامل را در نظر نمیگرفت. این موضوع میتوانست باعث شود برخی کاربران نتایج خود را سالم تصور کنند، در حالی که لزوماً اینطور نبود.
پس از این انتقادها، برای برخی از همین پرسوجوها دیگر بخش AI Overviews نمایش داده نمیشود و فقط نتایج معمولی جستوجو دیده میشود. با این حال، هنوز برخی عبارتهای مشابه گزارش شدهاند که ممکن است در آنها خلاصههای هوش مصنوعی نشان داده شود، هرچند بررسیهای جدید نشان میدهد فعلاً نمایش این خلاصهها در بسیاری از این موارد هم متوقف شده است.
واکنش گوگل و نگرانیها درباره سلامت دیجیتال
یک سخنگوی گوگل در گفتوگو با گاردین گفته است که شرکت بهطور معمول درباره «حذفهای فردی» در جستوجو اظهار نظر نمیکند، اما روی «بهبودهای گسترده» کار میکند. به گفته او، یک تیم داخلی شامل متخصصان بالینی، پرسوجوهای مورد اشاره را بررسی کرده و در بسیاری موارد، اطلاعات ارائهشده را نادرست ندانسته و آن را با محتوای وبسایتهای معتبر همسو ارزیابی کرده است؛ هرچند در نهایت این پرسوجوها از AI Overviews خارج شدهاند.
بخشی از کارشناسان سلامت معتقدند که حذف چند نتیجه خاص مشکل اصلی را حل نمیکند و مسئله مهمتر، اتکای بیش از حد کاربران به پاسخهای هوش مصنوعی برای تصمیمهای حساس سلامتی است. برای کاربران ایرانی نیز این بحث اهمیت دارد؛ چرا که بسیاری از آنها برای فهم نتایج آزمایشها یا علائم بیماری، به سرچ انگلیسی و فارسی تکیه میکنند و در کنار آن، از سرویسهای مختلف هوش مصنوعی استفاده میکنند. در چنین شرایطی، استفاده آگاهانه و ترکیب جستوجوی آنلاین با مشاوره تخصصی پزشکی ضروری است.
در کنار تغییرات گوگل، رشد سریع ابزارهای مشابه مثل چتباتها و دستیارهای هوشمند باعث شده بازار خرید اکانتهای هوشمصنوعی و سرویسهای مبتنی بر AI نیز در ایران و جهان داغ شود. همین موضوع لزوم مقرراتگذاری، شفافیت در نحوه آموزش مدلها و بهروزرسانی دائمی آنها بهخصوص در حوزههای حساسی مثل سلامت را پررنگتر میکند.
گوگل سال گذشته ویژگیها و مدلهای جدیدی را برای بهبود جستوجوی مرتبط با سلامت معرفی کرده بود، اما اتفاق اخیر نشان میدهد که حتی غولهای فناوری نیز هنوز با چالشهای دقت، مسئولیتپذیری و ایمنی در کاربردهای پزشکی هوش مصنوعی روبهرو هستند.
منبع خبر: TechCrunch
