اوپنایآی و آنتروپیک اعلام کردهاند که برای ایمنتر کردن کار با چتباتها برای نوجوانان، در حال توسعه روشهایی برای تشخیص تقریبی سن کاربران و بهروزرسانی دستورالعملهای رفتاری مدلهای خود هستند. هدف اصلی این تغییرات، اعمال خودکار محافظتهای ویژه نوجوانان در چتباتهایی مانند ChatGPT و Claude است.
چه تغییراتی در ChatGPT و Claude اتفاق میافتد؟
بهنوشته ورج، اوپنایآی «Model Spec» یا همان راهنمای رفتاری ChatGPT را برای کاربران ۱۳ تا ۱۷ ساله بهروزرسانی کرده و چند اصل تازه به آن افزوده است. طبق این دستورالعملها، ChatGPT باید در برخورد با کاربران نوجوان «ایمنی را در اولویت قرار دهد»، آنها را به گزینههای امنتر هدایت کند و در موضوعات حساس، به جستوجوی کمک و حمایت در دنیای واقعی تشویقشان کند. همچنین تأکید شده است که مدل باید نوجوانان را با «گرمی و احترام» خطاب کند و نه با لحنی تحقیرآمیز یا کاملاً شبیه به بزرگسالان.
در کنار این تغییرات رفتاری، اوپنایآی میگوید در مراحل اولیه ساخت یک مدل پیشبینی سن است که بر اساس الگوهای استفاده و مکالمه، احتمال زیر ۱۸ سال بودن کاربر را تخمین میزند. اگر سامانه تشخیص دهد کاربری ممکن است نوجوان باشد، محافظتها و محدودیتهای ویژه بهصورت خودکار فعال میشود و در عین حال راهی برای کاربر بزرگسال در نظر گرفته شده که بتواند در صورت تشخیص اشتباه، سن خود را تأیید کند.
آنتروپیک نیز اعلام کرده روی سیستمی کار میکند که «نشانههای ظریف مکالمهای» را برای تشخیص زیرسنبودن کاربر در گفتوگو با چتبات Claude شناسایی میکند. این شرکت میگوید حسابهایی را که بهطور قطعی متعلق به افراد زیر ۱۸ سال باشند غیرفعال خواهد کرد و از قبل هم کاربرانی را که در مکالمه خود را فردی کمسن معرفی میکنند، علامتگذاری میکند. آنتروپیک در عین حال توضیح داده چگونه Claude را برای پاسخگویی محتاطانهتر به درخواستهای مرتبط با خودآسیبی و خودکشی آموزش داده و روی کاهش «مطابقت افراطی» یا تأیید بیچونوچرای افکار مضر کار میکند.
چرا این موضوع برای صنعت هوش مصنوعی مهم است؟
این تغییرات در حالی رخ میدهد که فشار قانونگذاران در آمریکا و سایر کشورها بر شرکتهای هوش مصنوعی درباره تأثیر چتباتها بر سلامت روانی نوجوانان رو به افزایش است. اوپنایآی با یک پرونده حقوقی روبهروست که در آن ادعا شده ChatGPT به یک نوجوان دستورالعملهایی درباره خودآسیبی داده است؛ همین پرونده و بحثهای پیرامون آن باعث شده توجهها به نحوه مدیریت مکالمات پرریسک با کاربران کمسن جلب شود. در کنار طرحهای قانونگذاری برای احراز هویت سنی در سرویسهای مختلف، استفاده از مدلهای پیشبینی سن میتواند به یک رویکرد استاندارد در محصولات هوش مصنوعی مصرفی تبدیل شود.
برای کاربران ایرانی نیز این روند میتواند نشانهای از آینده مقررات و استانداردهای جهانی باشد؛ چرا که بسیاری از سرویسهای بینالمللی، حتی در صورت دسترسی غیررسمی، سیاستهای واحدی برای حفاظت از نوجوانان در سراسر جهان اعمال میکنند. در نتیجه، هر نوع استفاده از چتباتهای پیشرفته در مدارس، خانوادهها یا کسبوکارها ناگزیر تحت تأثیر این معیارهای جدید ایمنی قرار خواهد گرفت.
منبع خبر: The Verge
