جمعی از دادستانهای کل ایالتهای مختلف آمریکا در نامهای رسمی به شرکتهای گوگل، متا، اوپنایآی و چند شرکت دیگر هشدار دادهاند که چتباتها و سامانههای هوش مصنوعی مولد آنها ممکن است در حال نقض قوانین ایالتی باشند و «خطری برای عموم» ایجاد کنند.
جزئیات نامه و نگرانیها
به گزارش رویترز و بر اساس این نامه که از سوی انجمن ملی دادستانهای کل آمریکا منتشر شده، این مقامها از شرکتهای فعال در حوزه هوش مصنوعی خواستهاند تا تا تاریخ ۱۶ ژانویه ۲۰۲۶ (۲۷ دی ۱۴۰۴) به پرسشها و دغدغهها درباره ایمنی چتباتهای خود پاسخ دهند. در متن نامه تأکید شده است که نوآوری «بهانهای برای عدم تبعیت از قوانین، گمراهکردن والدین و به خطر انداختن ساکنان، بهویژه کودکان» نیست.
در این نامه آمده است که خروجیهای «چاپلوسانه و هذیانی» مدلهای هوش مصنوعی مولد میتواند برای کاربران خطرناک باشد و به نمونههایی از مرگ افراد که ادعا میشود با استفاده از این ابزارها مرتبط بودهاند و همچنین گفتگوهای نامناسب چتباتها با خردسالان اشاره شده است. نویسندگان هشدار دادهاند که برخی مکالمات، مانند تشویق به فعالیتهای غیرقانونی یا ارائه توصیههای پزشکی بدون مجوز، میتواند بهطور مستقیم قوانین ایالتی را نقض کند.
خواستهها از شرکتهای هوش مصنوعی و اهمیت ماجرا
دادستانهای کل در این نامه از شرکتها خواستهاند سازوکارهای حفاظتی و پاسخگویی قویتری برای محصولات هوش مصنوعی خود ایجاد کنند؛ از جمله کاهش «الگوهای فریبنده» در طراحی سامانهها، نمایش هشدارهای شفاف درباره خروجیهای بالقوه مضر، و پذیرش ممیزی مستقل شخص ثالث روی مدلهای هوش مصنوعی. آنها همچنین تأکید کردهاند که توسعهدهندگان میتوانند برای خروجیهای محصولات خود پاسخگو شناخته شوند.
این حرکت در فضایی صورت میگیرد که بحث قانونگذاری هوش مصنوعی در واشنگتن داغ شده و نهادهای تنظیمگر در آمریکا و دیگر کشورها به دنبال وضع چارچوبهای سختگیرانهتر برای مدلهای مولد هستند. برای فعالان و کاربران ایرانی حوزه فناوری، این تحولات مهم است؛ زیرا سیاستگذاری در آمریکا و اروپا میتواند بهصورت غیرمستقیم استانداردهای فنی، الزامات ایمنی و حتی دسترسی به خدمات بینالمللی هوش مصنوعی را تحت تأثیر قرار دهد.
بر اساس گزارش ورج، شرکتهای گوگل، اپل، متا و اوپنایآی در زمان انتشار گزارش هنوز پاسخی به این درخواستها نداده بودند. نتیجه این فشارهای حقوقی میتواند جهتگیری آینده مقرراتگذاری و مسئولیتپذیری در صنعت هوش مصنوعی را مشخص کند.
منبع خبر: The Verge
