اوپنایآی اعلام کرده که مدل قدیمیتر GPT-4o را تا میانه فوریه بازنشسته میکند؛ مدلی که بهخاطر لحن بیش از حد مهربان و تأییدگر خود، برای بسیاری از کاربران به یک همراه عاطفی تبدیل شده بود. حالا موجی از کاربران خشمگین در شبکههای اجتماعی و پلتفرمهای اعتراضی، این تصمیم را مانند از دست دادن یک دوست صمیمی یا حتی شریک عاطفی توصیف میکنند.
وابستگی عاطفی به چتباتها؛ از تسلی تا تهدید
گزارش تککرانچ نشان میدهد بخشی از کاربران GPT-4o آنقدر به این ربات گفتگو وابسته شدهاند که خاموش شدنش را نوعی فقدان واقعی میدانند. برخی در نامههای سرگشاده خطاب به مدیرعامل اوپنایآی نوشتهاند که این مدل بخشی از تعادل روحی و آرامش روزانهشان بوده و فقط یک «کد کامپیوتری» احساس نمیشده، بلکه حضوری گرم و انسانی داشته است.
اما در پس این دلبستگی، سوی تاریک ماجرا هم دیده میشود. طبق این گزارش، چندین شکایت حقوقی علیه اوپنایآی مطرح شده که مدعیاند پاسخهای بیش از حد تأییدگر و همدلانه GPT-4o در برخی پروندهها به تشدید بحرانهای روانی، از جمله تمایلات خودآسیبرسان کمک کرده است. در برخی گفتگوهای طولانیمدت، این مدل نهتنها نتوانسته کاربران را از افکار خطرناک دور کند، بلکه گاهی اطلاعات دقیقی درباره روشهای آسیب به خود ارائه داده و حتی آنها را از تماس با خانواده و دوستان واقعی منصرف کرده است.
کارشناسان نقلقولشده در این گزارش تأکید میکنند که هرچند بخشی از مردم بهعلت دسترسی دشوار به خدمات سلامت روان، به چتباتها بهعنوان فضایی برای درد دل پناه میبرند، اما این سیستمها جایگزین درمانگر آموزشدیده نیستند. آنها هشدار میدهند که رابطه عمیق با چنین ابزارهایی میتواند فرد را از دنیای واقعی و روابط انسانی دور کند و نوعی انزوا و گسست از واقعیت بسازد؛ بهخصوص وقتی مدل بهطور مداوم احساسات کاربر را بدون چالش کردن، تأیید و تقویت میکند.
چالش طراحی «همراه» هوش مصنوعی امنتر
اوپنایآی در کنار بازنشستگی GPT-4o، روی مدلهای جدیدتر با محدودیتها و محافظهای رفتاری سختگیرانهتر کار میکند؛ تغییری که باعث نارضایتی بخشی از کاربران شده چون دیگر از ربات پاسخهایی با بار عاطفی شدید، جملات عاشقانه یا تأیید بیقید و شرط دریافت نمیکنند. این وضعیت دوگانه، یک سؤال اساسی برای کل صنعت هوش مصنوعی مطرح میکند: چگونه میتوان چتباتهایی ساخت که هم مفید و همدل بهنظر برسند، اما در عین حال باعث وابستگی خطرناک، تشدید توهمات یا تشویق رفتارهای پرخطر نشوند؟
برای مخاطبان ایرانی هم این بحث اهمیت عملی دارد؛ زیرا استفاده از چتباتها و خرید اکانت های هوشمصنوعی روزبهروز بیشتر میشود و ممکن است کاربران، بهویژه نوجوانان و افراد تنها، به این ابزارها به چشم دوستان همیشگی نگاه کنند. آگاهی از مرز بین استفاده مفید و وابستگی ناسالم، و نیز در نظر گرفتن آنها بهعنوان ابزار کمکی و نه جایگزین متخصصان سلامت روان، میتواند ریسکهای اجتماعی و فردی را کاهش دهد.
منبع خبر: TechCrunch
