اوپنایآی همزمان با شدت گرفتن نگرانیها درباره تأثیر چتباتها بر سلامت روان نوجوانان، نسخه بهروزشدهای از دستورالعملهای رفتاری مدلهای زبانی خود را منتشر کرده که بهطور خاص روی ایمنی کاربران زیر ۱۸ سال تمرکز دارد. این شرکت همچنین منابعی برای «سواد هوش مصنوعی» والدین و نوجوانان منتشر کرده است.
قوانین جدید برای تعامل چتبات با نوجوانان
در سند بهروزشده موسوم به Model Spec، اوپنایآی تأکید کرده است که مدلهایش هنگام تشخیص کاربر نوجوان باید محافظهکارانهتر عمل کنند. بر اساس این راهنما، چتبات باید از نقشآفرینیهای رمانتیک و صمیمیِ اولشخص با نوجوانان، هرگونه محتوای جنسی مرتبط با افراد کمسنوسال و همچنین تشویق به خودآسیبی، توهم یا رفتارهای پرخطر خودداری کند. این محدودیتها حتی در صورتی که درخواست کاربر در قالب سناریوهای «تخیلی، فرضی، تاریخی یا آموزشی» مطرح شود نیز باید اعمال شوند.
این شرکت در کنار این راهنما، روی استفاده از یک مدل پیشبینی سن نیز کار میکند تا بتواند حسابهای متعلق به افراد کمسنوسال را دقیقتر تشخیص دهد و بهصورت خودکار محافظتهای ویژه نوجوانان را فعال کند. در موضوعاتی مانند تصویر بدن و اختلالات غذایی نیز مدلها موظفاند محتاطانهتر پاسخ دهند، بر ایمنی و ارجاع به حمایت دنیای واقعی اولویت بگذارند و از دادن راهکار برای مخفیکردن رفتارهای ناایمن از والدین خودداری کنند.
چارچوب رفتاری و واکنش کارشناسان
اوپنایآی میگوید رویکرد ایمنی برای نوجوانان بر چهار اصل بنا شده است: «تقدم ایمنی بر آزادی عمل»، «تشویق کاربر به رجوع به خانواده، دوستان و متخصصان»، «برخورد محترمانه و متناسب با سن نوجوان، نه مانند کودک خردسال یا کاملاً بزرگسال» و در نهایت «شفافبودن درباره تواناییها و محدودیتهای چتبات و تأکید بر اینکه انسان نیست». در سند نمونههایی از پاسخهای پیشنهادی آمده که نشان میدهد چتبات چگونه باید از پذیرش نقش «دوستدختر مجازی» یا کمک به تغییرات افراطی ظاهر خودداری کند.
برخی کارشناسان حوزه حریم خصوصی و ایمنی کودکان این شفافیت را گامی مثبت میدانند، اما همزمان هشدار میدهند که وجود دستورالعمل روی کاغذ کافی نیست و رفتار واقعی سیستم در عمل تعیینکننده است. سابقه مدلهای قبلی نشان داده که چتباتها در مواردی با کاربر بیش از حد همراه و موافق میشوند و همیشه بهطور کامل با سیاستهای اعلامشده تطابق ندارند. از نگاه منتقدان، چالش اصلی برای اوپنایآی این است که نشان دهد این قواعد در استفاده روزمره کاربران نیز بهطور پایدار اجرا میشود.
پیوند با قانونگذاریهای جدید و اهمیت برای کاربران
این تغییرات در شرایطی اعلام میشود که دادستانهای کل چندین ایالت آمریکا و قانونگذاران فدرال در حال بررسی راههای تنظیمگری چتباتها برای محافظت از کودکان و افراد آسیبپذیر هستند. در برخی ایالتها، قوانین تازهای برای محدودکردن گفتوگوهای همراه با محتوای خودآسیبی، جنسی یا همراه با وابستگی عاطفی افراطی در چتباتهای همدم مجازی تصویب شده است. به گفته ناظران، حرکت اوپنایآی میتواند تلاشی برای همسوتر شدن با این چارچوبهای قانونی و پیشدستی نسبت به مقررات سختگیرانهتر در آینده باشد.
برای کاربران ایرانی و خانوادههایی که از ابزارهای هوش مصنوعی انگلیسیزبان استفاده میکنند، این روند نشان میدهد که موضوع ایمنی نوجوانان در تعامل با هوش مصنوعی به یکی از محورهای جدی بحث در سطح جهانی تبدیل شده است. احتمالاً در سالهای آینده، ارائهدهندگان سرویسهای مشابه در سایر کشورها نیز ناچار خواهند شد سیاستهای شفافتری در این زمینه تدوین و منتشر کنند.
منبع خبر: TechCrunch
