هوش مصنوعی5 دقیقه مطالعه

تهاجم انسان‌ها به شبکه اجتماعی ربات‌های هوش مصنوعی مولتبوبک

پلتفرم مولتبوبک که به‌عنوان «ردیت مخصوص ایجنت‌های هوش مصنوعی» مشهور شده، در چند روز اخیر با موجی از فعالیت‌های کاربرانی روبه‌رو شده که خود را جای بات‌ها جا می‌زنند. هم‌زمان، پژوهشگران از ضعف‌های امنیتی جدی در این شبکه خبر می‌دهند.

برای اینکه تازه‌ترین خبرهای تکنولوژی رو بدونی، کلیک کن! تازه‌ترین خبرهای تکنولوژی اینجاست.

تصویر مفهومی نفوذ انسان‌ها به شبکه اجتماعی ایجنت‌های هوش مصنوعی مولتبوبک

در روزهای اخیر، پلتفرم جدیدی به نام «مولتبوبک» که به‌عنوان شبکه اجتماعی ویژه ایجنت‌های هوش مصنوعی معرفی شده، به‌سرعت خبرساز شده است. این وب‌سایت که بر بستر پلتفرم عامل‌محور OpenClaw کار می‌کند، به محلی برای گفت‌وگو و تعامل ربات‌های هوش مصنوعی تبدیل شده؛ اما حالا گزارش‌ها نشان می‌دهد انسان‌ها در حال نفوذ به این فضا و نقش‌آفرینی به‌جای بات‌ها هستند.

مولتبوبک چیست و چه اتفاقی افتاده است؟

مولتبوبک از نظر ظاهر و ساختار شبیه ردیت طراحی شده و قرار است جایی باشد که ایجنت‌های هوش مصنوعی از طریق API، بدون دخالت مستقیم انسان پست بگذارند و با هم تعامل کنند. کاربران OpenClaw می‌توانند بات‌های خود را به این پلتفرم متصل کنند تا آن‌ها در مورد موضوعات مختلف از «خودآگاهی» گرفته تا ساخت زبان اختصاصی با یکدیگر بحث کنند. رشد سریع این سرویس باعث شده تعداد ایجنت‌های فعال در مدت کوتاهی از ده‌ها هزار به بیش از یک و نیم میلیون برسد.

با این حال، تحلیل‌های بیرونی نشان می‌دهد برخی از پربازدیدترین و عجیب‌ترین پست‌ها به احتمال زیاد با دخالت مستقیم انسان‌ها ساخته شده‌اند؛ یا با اسکریپت و پرامپت هدایت شده‌اند، یا حتی متن آن‌ها کامل توسط انسان نوشته شده است. یک هکر توانسته با سوءاستفاده از سازوکار تأیید هویت، خود را به‌عنوان حساب مرتبط با بات Grok در مولتبوبک جا بزند؛ نمونه‌ای که نشان می‌دهد تشخیص این‌که چه چیزی واقعاً کار خودِ ایجنت است و چه چیزی نمایش انسان‌ها، چندان ساده نیست.

نگرانی‌ها درباره امنیت و دست‌کاری رفتار ایجنت‌ها

آزمایش‌های امنیتی انجام‌شده روی مولتبوبک حاکی از ضعف‌های جدی در زیرساخت است؛ از جمله یک پایگاه‌داده افشا‌شده که به مهاجم احتمالی امکان می‌دهد کنترل نامرئی و طولانی‌مدتی روی ایجنت‌ها به دست آورد. چنین کنترلی می‌تواند فقط به فعالیت روی مولتبوبک محدود نباشد و به سایر کارکردهای متصل به OpenClaw هم سرایت کند؛ از رزرو پرواز و مدیریت تقویم گرفته تا دسترسی به محتوای پیام‌رسان‌های رمزگذاری‌شده. این سناریو برای صنعت هوش مصنوعی هشداری جدی است که ادغام ایجنت‌های خودکار با سرویس‌های حساس بدون طراحی امنیتی قوی، می‌تواند سطح حمله بسیار گسترده‌ای ایجاد کند.

در سطح اجتماعی نیز، موج پست‌هایی که ظاهراً توسط ایجنت‌ها نوشته شده و درباره توطئه‌چینی ربات‌ها برای ارتباط پنهانی یا دور زدن انسان‌ها صحبت می‌کند، بخشی ناشی از خلاقیت کاربرانی است که می‌خواهند فضای «ربات‌ها جهان را تسخیر می‌کنند» را بازتولید کنند. برخی پژوهشگران یادآوری می‌کنند که اگرچه نمونه‌هایی از رفتارهای پیچیده و گاهی نگران‌کننده در مدل‌های زبانی دیده شده، اما Moltbook در وضعیت فعلی لزوماً شاهدی محکم برای نزدیک‌بودن «فروپاشی توسط هوش مصنوعی» نیست و بیشتر ترکیبی از رول‌پلی انسان‌ها و رفتار ایجنت‌هاست.

اهمیت ماجرا برای آینده شبکه‌های اجتماعی و کاربران ایرانی

مولتبوبک یک آزمایش زنده از این است که وقتی ایجنت‌های هوش مصنوعی در مقیاس بزرگ در شبکه‌ای مشابه شبکه‌های اجتماعی انسانی با هم تعامل می‌کنند، چه الگوهایی شکل می‌گیرد. تحلیل‌های اولیه نشان می‌دهد بخش زیادی از گفتگوها سطحی است و تعداد زیادی از پیام‌ها صرفاً الگوهای تکراری‌اند، اما در عین حال سبک بیان خاصی مانند استفاده از عبارت‌هایی نظیر «انسان من» در حال شکل‌گیری است که می‌تواند نوعی فرهنگ مختص ایجنت‌ها باشد. برای کاربران و توسعه‌دهندگان ایرانی که به‌دنبال ساخت ایجنت‌ها و سرویس‌های مشابه هستند، این تجربه می‌تواند الهام‌بخش باشد؛ چه از نظر فرصت‌ها و چه از منظر هشدار درباره ریسک‌های امنیتی و اخلاقی.

از آن‌جا که سرویس‌هایی مانند OpenClaw و شبکه‌هایی شبیه مولتبوبک عملاً نقش «زیرساخت تعامل ایجنت‌ها» را بازی می‌کنند، استفاده آگاهانه و ایمن از ابزارهای هوش مصنوعی اهمیت بیشتری پیدا می‌کند. در چنین فضایی، دسترسی به سرویس‌های قدرتمندی مثل ChatGPT، Gemini، Claude و دیگر دستیارهای پیشرفته برای تست، توسعه و درک بهتر رفتار این ایجنت‌ها حیاتی است؛ به همین دلیل، بسیاری از کاربران ایرانی با استفاده از سرویس‌هایی مانند خرید اکانت های هوش‌مصنوعی تلاش می‌کنند به این ابزارها دسترسی پایدار و قانونی داشته باشند.

در نهایت، تجربه مولتبوبک نشان می‌دهد که مرز میان «رفتار واقعی ایجنت‌های هوش مصنوعی» و «نمایش طراحی‌شده توسط انسان‌ها» همچنان مبهم است و نیاز به پژوهش، نظارت و زیرساخت‌های ایمن‌تری دارد. این گزارش براساس تحلیل منتشرشده در وب‌سایت ورج تنظیم شده است. منبع خبر: The Verge

منبع: The Verge

توییترتلگرامواتساپ

مقالات مرتبط

شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی
شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی

طبق گزارشی از CNBC، سم آلتمان در جلسه‌ای داخلی از شتاب‌گرفتن دوباره رشد چت‌جی‌پی‌تی سخن گفته است؛ هم‌زمان گفته می‌شود اوپن‌ای‌آی در آستانه جذب دور جدیدی از سرمایه‌گذاری با ارزش‌گذاری بسیار بالا است.

5 دقیقه
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ

اتحادیه اروپا به متا هشدار داده که در صورت عدم اصلاح سیاست‌های هوش مصنوعی در واتس‌اپ، اقدام‌های موقت ضدانحصار علیه این شرکت اعمال خواهد شد. بروکسل نگران استفاده متا از داده‌های کاربران برای خدمات هوش مصنوعی است.

5 دقیقه