گروهی از دادستانهای کل ایالتهای مختلف آمریکا در نامهای مشترک به بزرگترین شرکتهای فعال در حوزه هوش مصنوعی، نسبت به خروجیهای «توهمی» و آسیبزای چتباتها هشدار داده و اعلام کردهاند اگر این مشکل برطرف نشود، این شرکتها ممکن است ناقض قوانین ایالتی باشند.
جزئیات نامه و شرکتهای مخاطب
به گزارش تککرانچ، این نامه که توسط دهها دادستان کل ایالتی و با همراهی انجمن ملی دادستانهای کل امضا شده، خطاب به شرکتهایی مانند مایکروسافت، اوپناِیآی، گوگل و حدود ۱۰ بازیگر بزرگ دیگر در صنعت هوش مصنوعی ارسال شده است. در این فهرست نام شرکتهایی چون Anthropic، اپل، Chai AI، Character Technologies، Luka، متا، Nomi AI، Perplexity AI، Replika و xAI نیز دیده میشود.
انگیزه اصلی این اقدام، مجموعهای از رخدادهای نگرانکننده مرتبط با سلامت روان کاربران است که در آنها، استفاده افراطی از چتباتهای هوش مصنوعی با رفتارهای آسیبزا، از جمله مواردی مثل خودکشی و خشونت، پیوند خورده است. به گفته تدوینکنندگان نامه، در بسیاری از این رخدادها، محصولات هوش مصنوعی مولد، خروجیهای «چاپلوسانه» و «توهمی» تولید کردهاند که یا توهمات کاربران را تشویق کرده یا به آنها اطمینان دادهاند که دچار توهم نیستند.
درخواست برای ممیزی مستقل و سازوکار گزارشدهی
دادستانهای کل از شرکتها میخواهند مجموعهای از safeguards و کنترلهای جدید را پیادهسازی کنند؛ از جمله ممیزیهای شفاف و مستقلِ مدلهای زبانی بزرگ برای شناسایی نشانههای خروجیهای توهمی یا چاپلوسانه. در این نامه تأکید شده است که گروههای ثالث مانند دانشگاهها و نهادهای مدنی باید بتوانند پیش از انتشار عمومی مدلها، آنها را آزمایش کرده و یافتههای خود را بدون ترس از تلافی یا نیاز به تأیید شرکت منتشر کنند.
در بخش دیگری از نامه، پیشنهاد شده است که حوادث مرتبط با سلامت روان، مشابه رخدادهای امنیت سایبری، با سیاستها و رویههای واضح گزارشدهی پیگیری شوند. شرکتها تشویق شدهاند تا جدول زمانی مشخصی برای شناسایی و واکنش به خروجیهای خطرناک تعیین کنند و در صورت قرار گرفتن کاربران در معرض چنین محتوایی، آنها را «بهطور سریع، مستقیم و شفاف» مطلع سازند.
تنش میان تنظیمگری ایالتی و فدرال
این نامه در شرایطی منتشر میشود که مناقشه بر سر تنظیمگری هوش مصنوعی بین دولت فدرال و ایالتها شدت گرفته است. دولت فدرال رویکردی حامی توسعه پرشتاب هوش مصنوعی اتخاذ کرده و تلاشهایی برای محدود کردن اختیارات ایالتها در وضع مقررات مستقل انجام شده است؛ تلاشهایی که تاکنون با مقاومت مقامهای ایالتی و عدم موفقیت روبهرو شدهاند. همزمان، اعلام برنامه صدور یک فرمان اجرایی جدید با هدف محدود کردن نقش ایالتها، تنش میان سطوح مختلف حاکمیت در آمریکا را درباره چارچوب حقوقی هوش مصنوعی افزایش داده است.
برای صنعت هوش مصنوعی و همچنین برای مخاطبان ایرانی که از سرویسهای بینالمللی استفاده میکنند، این تحولات نشان میدهد فشار تنظیمگری بر ارائهدهندگان چتبات و مدلهای زبانی در حال افزایش است. احتمالا در آینده شاهد الزامات سختگیرانهتری در زمینه ارزیابی ریسک، ممیزی مستقل و شفافیت درباره خطاهای خطرناک این سیستمها خواهیم بود؛ مسائلی که میتواند بر نحوه ارائه این خدمات در سطح جهانی تأثیر بگذارد.
منبع خبر: TechCrunch
