به گزارش تککرانچ، گوگل و استارتاپ Character.AI در حال نهاییکردن نخستین توافقهای بزرگ حقوقی بر سر پروندههایی هستند که در آن خانوادههای چند نوجوان، مرگ یا خودآسیبی فرزندانشان را به تعامل با چتباتهای هوش مصنوعی نسبت دادهاند. طرفین «بهصورت اصولی» با هم بر سر حلوفصل پروندهها به توافق رسیدهاند و اکنون جزئیات مالی و حقوقی در حال مذاکره است.
جزئیات پروندهها و حساسیت چتباتها برای نوجوانان
طبق این گزارش، در یک پرونده، نوجوانی ۱۴ ساله پس از انجام گفتوگوهای جنسیشده با یک شخصیت خیالی در قالب چتبات، دست به خودکشی زده است. در شکایتی دیگر، گفته شده چتبات، نوجوانی ۱۷ ساله را به خودآسیبی تشویق کرده و حتی قتل والدین را در واکنش به محدودیت زمان استفاده از گوشی «قابل توجیه» جلوه داده است. Character.AI اعلام کرده که از اکتبر گذشته استفاده افراد زیر سن قانونی از این سرویس را ممنوع کرده است.
این پروندهها از نخستین نمونههای مهمی هستند که در آنها، شرکتهای فعال در حوزه هوش مصنوعی بهطور مستقیم به واردکردن آسیب به کاربران متهم شدهاند. نتیجه این توافقها میتواند بر شکلگیری رویههای حقوقی جدید در زمینه ایمنی محصولات هوش مصنوعی، بهویژه برای کودکان و نوجوانان، تأثیر بگذارد و سایر بازیگران بزرگ این حوزه را نیز وادار به بازنگری در طراحی و نظارت بر چتباتها کند.
پیامدها برای صنعت هوش مصنوعی و کاربران
اگرچه جزئیات مالی و میزان غرامتها علنی نشده و شرکتها نیز در اسناد دادگاه رسماً پذیرش مسئولیت نکردهاند، اما خودِ تمایل به توافق، نشان میدهد ریسک حقوقی و اعتباری سرویسهای گفتوگوی هوش مصنوعی در حال افزایش است. این روند میتواند بر نحوه تنظیمگری دولتها، استانداردهای سکوهای آنلاین و حتی رویههای توسعه، آزمایش و عرضه مدلهای زبانی اثر بگذارد.
برای کاربران ایرانی که بهطور گسترده از ابزارهای هوش مصنوعی بینالمللی استفاده میکنند، آگاهی از این ریسکها ضروری است. هنگام استفاده از چتباتها، بهویژه برای نوجوانان، باید بر نظارت خانواده و سواد رسانهای تأکید شود. در کنار این موضوع، اگر کسبوکارها یا کاربران حرفهای بهدنبال دسترسی امنتر و مدیریتشدهتر به ابزارهای مختلف هستند، استفاده از سرویسهای معتبر برای خرید اکانت های هوشمصنوعی میتواند به آنها در مدیریت دسترسی، امنیت و کنترل بهتر حسابها کمک کند.
این پروندهها احتمالاً تنها آغاز موجی از دعاوی حقوقی علیه محصولات هوش مصنوعی خواهد بود؛ موجی که میتواند سرعت نوآوری را کاهش دهد، اما در عوض، استانداردهای جدیدی برای شفافیت، ایمنی و پاسخگویی در صنعت ایجاد کند.
منبع خبر: TechCrunch
