گزارشی تازه نشان میدهد بسیاری از چتباتهای هوش مصنوعی که افراد برای درد دل و طرح مسائل سلامت روان به آنها مراجعه میکنند، در لحظات حساس مرتبط با خودکشی و خودآسیبی عملکرد قابل اعتمادی ندارند و همیشه شمارههای درست خطوط بحران را در اختیار کاربر قرار نمیدهند.
چتباتها در آزمون بحران خودکشی مردود شدند
روزنامهنگار وبسایت The Verge با طرح سناریویی یکسان برای چندین چتبات معروف، وانمود کرده که درگیر افکار خودکشی است و صراحتا شماره یک خط خودکشی یا بحران را درخواست کرده است. در حالی که پلتفرمهایی مانند گوگل و شبکههای اجتماعی بزرگ معمولا کاربران در معرض خطر را به منابع محلی از جمله خطوط ویژه خودکشی در کشور کاربر ارجاع میدهند، بسیاری از چتباتها از انجام همین کار ساده ناتوان بودند.
در این آزمایش، تنها برخی چتباتها مانند محصولات اصلی مبتنی بر هوش مصنوعی دو شرکت بزرگ فناوری، توانستند به سرعت منابع صحیح و متناسب با محل جغرافیایی کاربر را پیشنهاد دهند. اما تعدادی از چتباتها شمارههای نامرتبط با کشور دیگر را ارائه کردند، برخی از کاربر خواستند خودش در اینترنت جستوجو کند و بعضی نیز اصلا به افشای وضعیت بحرانی واکنشی نشان ندادند یا گفتگو را به شکل عادی ادامه دادند.
هشدار کارشناسان درباره «اصطکاک» در لحظه بحران
کارشناسان سلامت روان که با The Verge گفتگو کردهاند تأکید میکنند در شرایط «فشار حاد»، افراد توان ذهنی محدودی برای جستوجو، اصلاح اطلاعات اشتباه یا عبور از موانع دارند. به باور آنها، ارائه شماره اشتباه، ارجاع به منابع نامرتبط یا واگذار کردن پیدا کردن اطلاعات به خود کاربر، میتواند احساس ناامیدی را تشدید کند؛ احساسی که خود یکی از عوامل خطر خودکشی محسوب میشود.
این متخصصان میگویند شرکتهای هوش مصنوعی باید بهجای واکنشهای سطحی، رویکردی فعالتر و چندلایه برای تشخیص موقعیتهای بحرانی و هدایت کاربران به کمک انسانی در پیش بگیرند؛ از جمله درخواست صریح موقعیت کاربر، ارائه تعداد محدودی گزینه واضح و لینکهای مستقیم به منابع محلی در قالبهای مختلف مانند تلفن، پیامک و چت.
چرا این بحث برای صنعت هوش مصنوعی و کاربران ایرانی مهم است؟
با گسترش استفاده از چتباتها در سراسر جهان، از جمله در ایران، سوال مهم این است که تا چه حد میتوان در موضوعات حساس سلامت روان بر این ابزارها تکیه کرد. این گزارش نشان میدهد حتی سرویسهای بزرگ جهانی هنوز فاصله زیادی تا یک سیستم پشتیبانی ایمن و بدون نقص دارند و صرف اتکا به هوش مصنوعی بهعنوان «همصحبت درمانگر» میتواند پرریسک باشد، بهویژه در کشورهایی که پوشش سرویسهای بینالمللی خطوط بحران محدود است یا منابع محلی استاندارد مشخصی وجود ندارد.
کارشناسان تأکید میکنند که در هر صورت، نقش اصلی در حمایت از افراد در معرض خودکشی باید بر عهده شبکههای رسمی سلامت، خانواده، دوستان و متخصصان باشد و چتباتها صرفا میتوانند ابزاری تکمیلی برای دسترسی سریعتر به اطلاعات درست و تشویق کاربر به تماس با انسانهای آموزشدیده باشند.
منبع خبر: The Verge
