هوش مصنوعی5 دقیقه مطالعه

استفاده چت‌جی‌پی‌تی از محتوای دانشنامه جنجالی «گروکی‌پدیا»

گزارشی جدید نشان می‌دهد چت‌جی‌پی‌تی در نسخه GPT-5.2 در برخی پاسخ‌ها به دانشنامه هوش‌مصنوعی «گروکی‌پدیا» تکیه کرده است؛ پروژه‌ای وابسته به xAI ایلان ماسک که محتوای بحث‌برانگیزی دارد. این موضوع نگرانی‌ها درباره کیفیت و سوگیری داده‌های آموزشی را پررنگ‌تر کرده است.

برای اینکه تازه‌ترین خبرهای تکنولوژی رو بدونی، کلیک کن! تازه‌ترین خبرهای تکنولوژی اینجاست.

تصویری مفهومی از پایگاه‌های داده هوش مصنوعی و محتوای بحث‌برانگیز متصل به چت‌بات

گزارشی تازه نشان می‌دهد بخشی از پاسخ‌های چت‌جی‌پی‌تی – به‌ویژه در مدل GPT-5.2 – از دانشنامه هوش‌مصنوعی «گروکی‌پدیا» متعلق به شرکت xAI ایلان ماسک گرفته می‌شود؛ دانشنامه‌ای که از ابتدا به دلیل محتوای بحث‌برانگیز و گرایش محافظه‌کارانه‌اش خبرساز شده بود.

گروکی‌پدیا چیست و چه حاشیه‌هایی دارد؟

xAI در اکتبر گذشته دانشنامه‌ای به نام Grokipedia را راه‌اندازی کرد؛ در حالی که ماسک پیش‌تر بارها ویکی‌پدیا را به سوگیری علیه جریان‌های محافظه‌کار متهم کرده بود. بررسی خبرنگاران نشان داد بسیاری از مدخل‌های گروکی‌پدیا عملاً از ویکی‌پدیا کپی شده‌اند، اما در برخی موضوعات حساس، این سرویس ادعاها و تعابیری بحث‌انگیز ارائه می‌کند؛ از جمله نسبت‌دادن نقش پررنگ به محتوای پورنوگرافیک در بحران ایدز، ارائه توجیهات ایدئولوژیک برای برده‌داری و استفاده از واژگان تحقیرآمیز درباره افراد ترنس.

به گزارش رسانه‌ها، اکنون ردی از این منبع در پاسخ‌های چت‌جی‌پی‌تی دیده می‌شود. طبق این گزارش، مدل GPT-5.2 در پاسخ به بیش از دوازده پرسش، در مجموع چندین بار به گروکی‌پدیا استناد کرده است؛ هرچند در پرسش‌هایی که پیش‌تر نادرستی محتوای گروکی‌پدیا درباره آنها افشا شده بود، مانند وقایع ششم ژانویه یا اپیدمی HIV/AIDS، نامی از این منبع نیامده و استنادها بیشتر در موضوعات کم‌اهمیت‌تر و مباحث حاشیه‌ای دیده شده است. در برخی موارد نیز ادعاهایی درباره یک تاریخ‌نگار برجسته تکرار شده که پیش‌تر توسط همان رسانه راستی‌آزمایی و رد شده بود.

چرا این موضوع برای صنعت هوش مصنوعی مهم است؟

این اتفاق، بار دیگر بحث قدیمی «از کجا می‌فهمیم مدل چه چیزی را از کجا می‌آورد؟» را زنده کرده است. وقتی یک مدل پرکاربرد مثل چت‌جی‌پی‌تی به منبعی استفاده می‌کند که هم محتوای کپی‌شده دارد و هم ادعاهای تحریف‌شده، اعتماد عمومی به دقت و بی‌طرفی پاسخ‌ها زیر سؤال می‌رود. سخن‌گوی اوپن‌ای‌آی در واکنش به این موضوع گفته است که هدف شرکت «استفاده از طیف گسترده‌ای از منابع عمومی و دیدگاه‌های مختلف» است؛ اما این رویکرد، بدون سازوکارهای شفاف برای ارزیابی کیفیت و سوگیری منابع، خود به چالشی تازه تبدیل می‌شود.

برای کاربران ایرانی نیز این خبر یادآور این نکته است که در کنار مزایای چشم‌گیر ابزارهای هوش مصنوعی، باید نسبت به سوگیری‌های احتمالی و منبع اطلاعاتی آنها هوشیار بود؛ چه هنگام استفاده مستقیم از مدل‌ها و چه در زمان خرید اکانت های هوش‌مصنوعی و انتخاب سرویس‌های مختلف برای کار و مطالعه.

جالب اینجاست که گزارش‌ها نشان می‌دهد تنها چت‌جی‌پی‌تی نیست که در برخی پرسش‌ها از گروکی‌پدیا نقل‌قول می‌کند و نام دیگر چت‌بات‌های پیشرفته نیز در این زمینه مطرح شده است؛ نکته‌ای که نشان می‌دهد مسئله سوگیری داده‌ها و کیفیت منابع، یک چالش عمومی برای کل اکوسیستم مدل‌های زبانی بزرگ است، نه فقط یک شرکت یا یک محصول خاص.

منبع خبر: TechCrunch

منبع: TechCrunch

توییترتلگرامواتساپ

مقالات مرتبط

شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی
شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی

طبق گزارشی از CNBC، سم آلتمان در جلسه‌ای داخلی از شتاب‌گرفتن دوباره رشد چت‌جی‌پی‌تی سخن گفته است؛ هم‌زمان گفته می‌شود اوپن‌ای‌آی در آستانه جذب دور جدیدی از سرمایه‌گذاری با ارزش‌گذاری بسیار بالا است.

5 دقیقه
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ

اتحادیه اروپا به متا هشدار داده که در صورت عدم اصلاح سیاست‌های هوش مصنوعی در واتس‌اپ، اقدام‌های موقت ضدانحصار علیه این شرکت اعمال خواهد شد. بروکسل نگران استفاده متا از داده‌های کاربران برای خدمات هوش مصنوعی است.

5 دقیقه