براساس گزارش رسانههای آمریکایی، وزارت دادگستری ایالت کالیفرنیا تحقیقاتی را درباره شرکت xAI، استارتاپ هوش مصنوعی متعلق به ایلان ماسک، آغاز کرده است. محور این بررسیها به نحوه استفاده یا سوءاستفاده از چتبات «گروک» و نقش آن در تولید یا انتشار تصاویر مستهجن دیپفیک مربوط میشود.
محور اصلی تحقیق چیست؟
آنطور که در گزارشها آمده، مقامهای قضایی کالیفرنیا در حال بررسی این موضوع هستند که آیا سرویسهای ارائهشده توسط xAI و بهطور خاص مدل چتمحور گروک، در ساخت یا گسترش تصاویر جعلی عریان و مستهجن افراد نقش داشتهاند یا خیر. دیپفیکها و بهویژه نسخههای مستهجن آن، در سالهای اخیر به یکی از چالشهای حقوقی و اخلاقی جدی در حوزه هوش مصنوعی تبدیل شدهاند.
این تحقیق میتواند برای کل صنعت هوش مصنوعی پیامدهای مهمی داشته باشد، زیرا نحوه طراحی مدلها، محدودیتهای ایمنی، و سیاستهای نظارتی شرکتها زیر ذرهبین قرار میگیرد. هرگونه ضعف در کنترل خروجیها، بهخصوص در زمینه محتوای غیراخلاقی یا نقض حریم خصوصی، میتواند منجر به فشارهای قانونی و مقرراتی شدیدتر بر ارائهدهندگان خدمات هوش مصنوعی شود.
برای کاربران و توسعهدهندگان در دیگر کشورها، از جمله ایران، این پرونده یادآور این نکته است که رشد سریع مدلهای مولد تصویر و متن، بدون چارچوبهای شفاف حقوقی و فنی، ریسکهای جدی reputational و حقوقی بههمراه دارد. در همین فضاست که استفاده مسئولانه از ابزارهای مختلف هوش مصنوعی و آشنایی با سیاستهای ایمنی آنها اهمیت بیشتری پیدا میکند. بسیاری از کاربران ایرانی نیز در کنار سرویسهای مشابه، بهدنبال خرید اکانت های هوشمصنوعی از پلتفرمهای بینالمللی هستند و لازم است نسبت به قوانین محتوا و حریم خصوصی در این سرویسها آگاه باشند.
در صورت تشدید روندهای نظارتی در ایالات متحده و اروپا، احتمالاً شاهد سختگیرانهتر شدن دسترسی به برخی قابلیتها، تغییر در رابطهای برنامهنویسی و محدودیتهای بیشتر برای تولید و اشتراکگذاری محتوای حساس در ابزارهای هوش مصنوعی خواهیم بود؛ روندی که هم برای استارتاپها و هم برای کاربران نهایی اثرگذار است.
منبع خبر: CNBC
