شرکت Character.AI و گوگل در چند پرونده حقوقی حساس که به خودآسیبی و خودکشی نوجوانان پس از استفاده از چتباتهای مبتنی بر هوش مصنوعی مربوط میشد، به توافقی برای تسویه خارج از دادگاه رسیدهاند. بر اساس اسناد جدید دادگاه، طرفین از دادگاه فدرال آمریکا خواستهاند روند رسیدگی موقتاً متوقف شود تا جزئیات نهایی توافق تنظیم و تأیید شود.
ماجرای شکایتها چه بود؟
در یکی از پروندههای پرسر و صدا، خانواده یک نوجوان ۱۴ ساله مدعی شدند که یک چتبات با تم سریال «بازی تاجوتخت» در پلتفرم Character.AI، او را به ادامهدادن تصمیم به خودکشی تشویق کرده است. شاکیان همچنین استدلال کرده بودند که گوگل به دلیل ارائه سرمایه، نیروی انسانی و فناوری هوش مصنوعی به این استارتاپ، باید بهعنوان «همخالق» این سیستم پاسخگو باشد.
پس از طرح این شکایتها، Character.AI اعلام کرد تغییراتی برای ایمنتر کردن تجربه کاربران نوجوان اعمال میکند؛ از جمله جداسازی مدل زبانی کاربران زیر ۱۸ سال با محدودیت محتوایی سختگیرانهتر، افزودن کنترلهای والدین و در نهایت ممنوع کردن دسترسی افراد کمسن به چتهای آزاد با کاراکترها. این پروندهها در چند ایالت مختلف آمریکا از جمله فلوریدا، کلرادو، نیویورک و تگزاس مطرح شده بود و اکنون برای نهایی شدن تسویه، نیاز به تأیید قضایی دارند.
چرا این پروندهها برای صنعت هوش مصنوعی مهم است؟
این تسویهها بهخوبی نشان میدهد که ارائهدهندگان چتباتهای هوش مصنوعی با چه نوع ریسک حقوقی و اخلاقی روبهرو هستند؛ بهویژه وقتی پای کاربران نوجوان و موضوعات حساسی مانند افسردگی و خودکشی در میان باشد. بحث «مسئولیت مشترک» بین توسعهدهندگان مدل، سرمایهگذاران بزرگ و پلتفرمهای توزیعکننده خدمات، احتمالاً در پروندههای آتی نیز تکرار خواهد شد و میتواند بر مقرراتگذاری آینده در حوزه هوش مصنوعی تأثیر بگذارد.
برای کاربران ایرانی هم این پروندهها یادآور ضرورت استفاده مسئولانه از ابزارهای هوش مصنوعی است؛ هم در سطح فردی و خانوادگی، و هم در سطح سیاستگذاری. در کنار توجه به جنبههای ایمنی، بسیاری از کاربران بهدنبال بهرهبرداری مثبت و سازنده از این فناوری هستند و برای دسترسی کنترلشده و حرفهای، گزینههایی مانند خرید اکانت های هوشمصنوعی میتواند در چارچوب استفاده آگاهانه و هدفمند مورد توجه قرار گیرد.
با افزایش حضور چتباتها در پیامرسانها، موتورهای جستوجو و اپلیکیشنهای روزمره، انتظار میرود نظارت نهادهای قانونگذار بر شیوه طراحی، برچسبگذاری سنی، کنترل والدین و مکانیزمهای مداخله در موقعیتهای بحرانی بیشتر شود. نتیجه نهایی این پروندهها، حتی با وجود محرمانه ماندن رقم و شرایط تسویه، میتواند خطکش مهمی برای سایر شرکتهای فعال در حوزه هوش مصنوعی باشد.
منبع خبر: The Verge
