چین محدودیت‌های تازه برای چت‌بات‌های هوش مصنوعی وضع می‌کند

دولت چین در حال آماده‌سازی مجموعه‌ای از مقررات تازه برای چت‌بات‌های هوش مصنوعی است که هدف آن، محدود کردن نقش این سرویس‌ها در موضوعات حساسی مانند خودکشی، قمار و تأثیرگذاری احساسی عمیق بر کاربران عنوان شده است. بر اساس گزارش اولیه، پلتفرم‌های چینی ارائه‌دهنده چت‌بات‌های پیشرفته باید کنترل محتوای تولیدشده در این حوزه‌ها را تشدید کنند.

تمرکز بر تأثیر احساسی و موضوعات پرخطر

طبق آنچه از عنوان خبر برمی‌آید، تنظیم‌گران چینی نگران آن هستند که چت‌بات‌های هوش مصنوعی بتوانند روی احساسات کاربران تأثیر بگذارند یا در موقعیت‌های بحرانی مانند بیان تمایلات خودکشی یا رفتارهای پرخطر مرتبط با قمار، پاسخ‌هایی ارائه دهند که به ضرر کاربر تمام شود. به همین دلیل، از ارائه‌دهندگان خواسته می‌شود سازوکارهای نظارتی، فیلتر محتوا و مداخله انسانی را در این حوزه‌ها تقویت کنند.

با توجه به رشد سریع سرویس‌های گفت‌وگومحور در چین، این نوع مقررات می‌تواند روی استراتژی محصول و نحوه آموزش مدل‌های زبانی، از شرکت‌های بزرگ تا استارتاپ‌های کوچک، تأثیر بگذارد. محدودیت بر «تأثیرگذاری احساسی» همچنین می‌تواند باعث شود طراحان، تعاملات چت‌بات‌ها را محافظه‌کارانه‌تر طراحی کنند تا ریسک نقض قوانین کاهش یابد.

پیامدها برای صنعت هوش مصنوعی و کاربران منطقه

افزایش نظارت بر محتوای تولیدشده توسط هوش مصنوعی در چین، بخشی از روند گسترده‌تر تنظیم‌گری در حوزه هوش مصنوعی در سطح جهان است. این رویکرد می‌تواند بر رقابت شرکت‌های چینی در بازار جهانی نیز اثر بگذارد؛ زیرا آن‌ها ناچارند میان پایبندی به قوانین داخلی و حفظ جذابیت محصول برای کاربران بین‌المللی تعادل برقرار کنند. از سوی دیگر، برای کاربران منطقه و به‌ویژه توسعه‌دهندگان فارسی‌زبان که بازار چین را هدف قرار می‌دهند، شناخت این مقررات برای طراحی سرویس‌های سازگار با قانون اهمیت دارد.

در ایران هم با گسترش استفاده از مدل‌های مکالمه‌محور، دغدغه‌های مشابهی درباره محتوای حساس و تأثیر روانی پاسخ‌های هوش مصنوعی مطرح است. کسب‌وکارها و کاربران حرفه‌ای می‌توانند با استفاده از سرویس‌های مطمئن و متنوع، مانند پلتفرم‌هایی که از طریق خرید اکانت های هوش‌مصنوعی در دسترس هستند، دسترسی خود را به ابزارهای مختلف جهانی حفظ و در عین حال سیاست‌های داخلی هر کشور را بهتر رصد کنند.

این تحولات نشان می‌دهد که آینده چت‌بات‌ها، فقط به پیشرفت فنی وابسته نیست و چارچوب‌های حقوقی و اخلاقی هر کشور نیز نقش مهمی در تعیین شکل نهایی خدمات هوش مصنوعی ایفا خواهند کرد. انتظار می‌رود با اجرای چنین مقرراتی در چین، سایر کشورها هم با دقت بیشتری تأثیر اجتماعی چت‌بات‌ها را بررسی کنند.

منبع خبر: CNBC