اوپنایآی قابلیت تازهای را در چتجیپیتی فعال کرده که با کمک هوش مصنوعی سن تقریبی کاربران را حدس میزند تا در صورت احتمال زیر ۱۸ سال بودن، محدودیتهای محتوایی بیشتری روی حساب آنها اعمال شود. هدف این تغییر، افزایش ایمنی نوجوانان و کودکان در تعامل با چتبات است.
ویژگی جدید «پیشبینی سن» چگونه کار میکند؟
طبق توضیحات اوپنایآی، الگوریتم جدید با استفاده از مجموعهای از «سیگنالهای رفتاری و سطح حساب کاربری» تلاش میکند کاربران کمسن را شناسایی کند. این سیگنالها شامل سن اعلامشده در پروفایل، مدت زمان فعال بودن حساب و الگوی زمانی استفاده از سرویس هستند. اگر سیستم تشخیص دهد احتمالاً کاربر زیر ۱۸ سال است، فیلترهای محتوایی سختگیرانهتری برای موضوعاتی مثل خشونت و محتواهای جنسی فعال میشود.
این اقدام در ادامه انتقادهایی است که طی سالهای اخیر نسبت به تأثیر چتباتها بر سلامت روان نوجوانان و همچنین امکان دسترسی آنها به گفتگوهای نامناسب مطرح شده است. اوپنایآی پیشتر نیز فیلترهایی برای جلوگیری از تولید محتوای اروتیک برای کاربران زیر سن قانونی اضافه کرده بود و حالا با اتکا به پیشبینی سن سعی میکند اجرای این سیاستها را دقیقتر کند.
اگر کاربری به اشتباه به عنوان فرد زیر ۱۸ سال تشخیص داده شود، میتواند از طریق ارسال سلفی برای شریک احراز هویت اوپنایآی، وضعیت «بزرگسال» بودن حساب خود را دوباره تأیید کند. این بخش البته ممکن است برای برخی کاربران از نظر حریم خصوصی سوالبرانگیز باشد و بحث درباره تعادل میان حفاظت از کودکان و حفظ دادههای شخصی را داغتر کند. با توجه به رشد استفاده از ابزارهای هوش مصنوعی در ایران، آشنایی با سازوکارهای ایمنی آنها، بهویژه برای والدینی که از سرویسهای مختلف استفاده میکنند یا به فکر خرید اکانت های هوشمصنوعی هستند، اهمیت بیشتری پیدا میکند.
این تغییر میتواند بر نحوه طراحی سرویسهای هوش مصنوعی در سراسر صنعت تأثیر بگذارد؛ زیرا انتظار میرود سایر بازیگران بزرگ نیز به سمت مکانیزمهای دقیقتر برای مدیریت کاربران نوجوان بروند. در عین حال، نحوه اجرای این سیستمها و شفافیت درباره دادههایی که برای پیشبینی سن استفاده میشود، احتمالاً یکی از محورهای اصلی بحثهای حقوقی و تنظیمگری در سالهای پیشرو خواهد بود.
منبع خبر: TechCrunch
