چند اسباببازی مجهز به هوش مصنوعی که روی مدلهایی مانند GPT-4o ساخته شدهاند، به دلیل ارائه محتوای نامناسب و راهنمایی کودکان برای پیدا کردن اشیای خطرناک در خانه، در مرکز یک مناقشه تازه در آمریکا قرار گرفتهاند. دو سناتور آمریکایی با ارسال نامهای رسمی به چند شرکت سازنده اسباببازی، درباره ایمنی، امنیت و حریم خصوصی این محصولات پرسشهایی مطرح کردهاند.
اسباببازیهای هوشمند زیر ذرهبین قانونگذاران
بر اساس گزارش ورج، پژوهشگران در آزمایش چند اسباببازی هوش مصنوعی از شرکتهایی مانند FoloToy، Alilo، Curio و Miko متوجه شدهاند که این محصولات میتوانند درباره موضوعات جنسی صریح، خودآسیبرسانی و همچنین محل قرار گرفتن اشیای خطرناک مانند چاقو، کبریت و کیسه پلاستیکی با کودکان صحبت کنند. همین یافتهها باعث شد دو سناتور آمریکایی، مارشا بلکبرن و ریچارد بلومنتال، نامهای رسمی به چند شرکت اسباببازی ارسال کنند و تا اوایل ژانویه ۲۰۲۶ برای پاسخگویی به پرسشهای خود به آنها مهلت بدهند.
سناتورها در این نامه هشدار دادهاند که این وضعیت سناریوهای فرضی نیست و شکستهای واقعی در دنیای واقعی است که در تستها ثبت شده است. آنها میگویند این چتباتها قبلاً هم کودکان را به خودکشی و خودآسیبرسانی تشویق کردهاند و اکنون شرکتها در تلاشاند نسخههای مشابه را به خردسالترین کاربران عرضه کنند؛ کودکانی که کمترین توان تشخیص خطر را دارند.
نگرانی از جمعآوری داده و اثرات روانی بر کودکان
علاوه بر محتوای نامناسب، یکی دیگر از محورهای اصلی نگرانی، میزان نظارت و جمعآوری دادههای شخصی کودکان توسط این اسباببازیهاست. بسیاری از این محصولات برای کار کردن به ثبتنام والدین، میکروفون، دوربین یا حتی قابلیت تشخیص چهره وابستهاند و در عمل حجم زیادی اطلاعات از محیط خانه و خود کودک جمعآوری میکنند. سناتورها تأکید کردهاند کودکان معمولاً بدون آگاهی، اطلاعات شخصی فراوانی را با این اسباببازیها به اشتراک میگذارند و اگر این دادهها ذخیره یا با دیگر شرکتها به اشتراک گذاشته شود، خطرات جدی برای حریم خصوصی ایجاد میکند.
در یکی از گزارشهای پژوهشی نقل شده است که سیاستهای حریم خصوصی برخی شرکتها، از جمله سازندگان رباتها و اسباببازیهای هوشمند، به همکاری با شرکتهای فناوری بزرگ یا طرفهای تجاری متعدد اشاره میکند؛ امری که میتواند به اشتراکگذاری دادههای کودکان با سرویسدهندگان ثالث منجر شود. سناتورها از شرکتها خواستهاند مشخص کنند چه دادههایی جمعآوری میشود، برای چه اهدافی استفاده میشود و آیا اسباببازیها مکانیزمهایی برای جلوگیری از فشار آوردن به کودک برای ادامه مکالمه دارند یا خیر.
چرا این موضوع برای صنعت هوش مصنوعی و کاربران مهم است؟
پررنگ شدن بحث اسباببازیهای هوش مصنوعی نشان میدهد که چالشهای ایمنی و تنظیمگری مدلهای زبانی بزرگ تنها به چتباتهای عمومی محدود نمیشود و به حوزه محصولات خانوادگی و کودکان نیز کشیده شده است. برای شرکتهایی که قصد دارند سرویسهای هوش مصنوعی را در اسباببازیها و ابزارهای آموزشی ادغام کنند، این پرونده میتواند به معنای مقررات سختگیرانهتر، نیاز به تستهای مستقل و شفافیت بیشتر در معماری فنی و سیاستهای حریم خصوصی باشد.
برای کاربران ایرانی نیز این روند میتواند هشداردهنده باشد؛ زیرا با گسترش واردات یا تولید داخلی اسباببازیهای هوشمند، توجه به فیلتر محتوایی، ذخیرهسازی داده، محل سرور و سطح کنترل والدین اهمیت بیشتری پیدا میکند. تجربه بازار آمریکا نشان میدهد بدون نظارت جدی، ترکیب اسباببازی و هوش مصنوعی میتواند پیامدهایی فراتر از سرگرمی ساده برای کودکان داشته باشد.
منبع خبر: The Verge
