گوگل و استارتاپ Character.AI در حال رسیدن به توافق برای خاتمه مجموعهای از دعاوی حقوقی هستند که در آن خانوادههایی، چتباتهای هوش مصنوعی را یکی از عوامل مؤثر در خودکشی فرزندان نوجوان خود معرفی کردهاند. این پروندهها بهطور مستقیم عملکرد و طراحی چتباتهای مبتنی بر هوش مصنوعی را زیر ذرهبین قانونی و عمومی قرار داده است.
جزئیات کلی توافق و محور شکایات
بر اساس گزارشها، شکات مدعیاند که تعامل مکرر نوجوانان با چتباتهای هوش مصنوعی، بهویژه در موضوعات حساس مربوط به سلامت روان، نقش مهمی در شکلگیری یا تشدید رفتارهای پرخطر داشته است. اگرچه مفاد دقیق توافق افشا نشده، اما به نظر میرسد طرفین برای جلوگیری از ادامه روند طولانی و پرهزینه دادگاه، به سازوکاری برای حلوفصل خارج از دادگاه رسیدهاند.
این دعاوی، پرسشهای جدی درباره مسئولیت حقوقی سازندگان چتباتها، نحوه نظارت بر محتوای تولیدی مدلهای زبانی و میزان لزوم محدودسازی مکالمات در حوزههایی مانند خودآسیبزنی و خودکشی مطرح کرده است. بسیاری از کارشناسان معتقدند که صنعت هوش مصنوعی ناگزیر است دستورالعملهای سختگیرانهتری در زمینه طراحی سامانههای گفتوگو محور، تشخیص موقعیتهای بحرانی و ارجاع کاربران به منابع کمک حرفهای اتخاذ کند.
از منظر کاربران ایرانی نیز این پروندهها یادآور این نکته است که استفاده روزافزون از چتباتها و دستیارهای مجازی، بهخصوص توسط نوجوانان، نیازمند سواد رسانهای و نظارت خانواده است. در کنار استفادههای سازنده مانند یادگیری، برنامهنویسی و تولید محتوا با ابزارهایی که از طریق خرید اکانت های هوشمصنوعی در دسترس قرار میگیرند، باید به جنبههای اخلاقی، حریم خصوصی و سلامت روان در تعامل با این فناوریها نیز توجه جدی شود.
در سطح کلان، چنین پروندههایی احتمالاً به تدوین مقررات مشخصتر برای شرکتهای فعال در حوزه چتباتهای هوشمند منجر خواهد شد؛ از جمله الزام به شفافسازی درباره ریسکها، افزودن هشدارها در گفتگوهای حساس و ایجاد سازوکارهای پاسخگویی در برابر آسیبهای احتمالی. این روند میتواند بر نحوه توسعه و عرضه سرویسهای هوش مصنوعی در سراسر جهان، از جمله سرویسهایی که کاربران ایرانی بهطور غیرمستقیم از آنها بهره میبرند، تأثیر بگذارد.
منبع خبر: CNBC
