اوپنایآی اعلام کرده است که قابلیت جدید «پیشبینی سن» را در چتجیپیتی فعال کرده تا بتواند کاربران خردسال را بهتر شناسایی کرده و دسترسی آنها به محتوای حساس را محدود کند. این اقدام بخشی از موج تازهی «سنسنجی» در پلتفرمهای آنلاین برای محافظت از نوجوانان در برابر آسیبهای محتوایی است.
چتجیپیتی چگونه سن کاربر را تشخیص میدهد؟
بهگفتهی اوپنایآی، مدل پیشبینی سن با بررسی مجموعهای از سیگنالهای رفتاری و اطلاعات حساب، از جمله سن اعلامشده توسط کاربر، قدمت حساب، زمانهای فعالیت و الگوی استفاده در طول زمان، تخمینی از سن کاربر ارائه میدهد. اگر سیستم تشخیص دهد که کاربری احتمالاً زیر ۱۸ سال است، لایههای محافظتی بیشتری روی تجربهی او در چتجیپیتی اعمال میشود.
این محافظتها شامل محدود کردن نمایش محتوایی مانند خشونت گرافیکی و صحنههای دلخراش، چالشهای ویروسی که ممکن است به رفتارهای پرخطر منجر شود، نقشآفرینیهای جنسی، عاشقانه یا خشن، نمایش خودآسیبزنی، و همچنین محتوایی است که استانداردهای افراطی زیبایی، رژیمهای ناسالم یا شرمبدنی را ترویج میکند. بزرگسالانی که بهاشتباه در دستهی زیر ۱۸ سال قرار گرفتهاند، میتوانند با تأیید سن از طریق سلفی، دسترسی کامل خود را بازیابی کنند.
گسترش جهانی و چالشهای حقوقی
قابلیت پیشبینی سن تقریباً در سطح جهانی در حال عرضه است و اوپنایآی میگوید در اتحادیه اروپا این ویژگی طی هفتههای آینده و با در نظر گرفتن الزامات منطقهای فعال خواهد شد. این تغییرات پس از آن انجام میشود که چتجیپیتی در مرکز یک شکایت حقوقی مربوط به خودکشی یک نوجوان و همچنین جلسات استماع سنا دربارهی خطرات چتباتها برای خردسالان قرار گرفت.
افزودن این لایههای محافظتی نشان میدهد ارائهدهندگان هوش مصنوعی تحت فشار قانونگذاران و افکار عمومی، ناچار به طراحی تجربهای متمایز برای کودکان و نوجوانان شدهاند. برای کاربران ایرانی نیز، موضوع ایمنی آنلاین نوجوانان در کنار دسترسی به ابزارهای پیشرفته هوش مصنوعی اهمیت زیادی دارد. بسیاری از خانوادهها و معلمان در کنار استفاده از خدماتی مانند خرید اکانت های هوشمصنوعی بهدنبال این هستند که مطمئن شوند فرزندانشان در مواجهه با این ابزارها کمتر در معرض محتوای مضر قرار میگیرند.
در مجموع، حرکت اوپنایآی در استفاده از پیشبینی سن، بخشی از روند گستردهتر مسئولیتپذیری پلتفرمهای هوش مصنوعی در قبال کاربران خردسال است و احتمالاً استانداردهای جدیدی برای تنظیمگری و طراحی سرویسهای مشابه در آینده تعیین خواهد کرد.
منبع خبر: The Verge
