هوش مصنوعی5 دقیقه مطالعه

Moltbot؛ ایجنت متن‌باز هوش مصنوعی که واقعا کار انجام می‌دهد

Moltbot یک ایجنت متن‌باز هوش مصنوعی است که روی سیستم لوکال اجرا می‌شود و می‌تواند کارهایی مثل پر کردن فرم‌ها، ارسال ایمیل و مدیریت تقویم را خودکار کند. اما دسترسی عمیق این ابزار به سیستم و حساب‌های کاربری، نگرانی‌های جدی امنیتی به همراه داشته است.

برای اینکه تازه‌ترین خبرهای تکنولوژی رو بدونی، کلیک کن! تازه‌ترین خبرهای تکنولوژی اینجاست.

تصویر مفهومی یک ایجنت هوش مصنوعی لوکال در حال کنترل اپ‌ها و سیستم با هشدارهای امنیتی

Moltbot، یک ایجنت متن‌باز هوش مصنوعی که روی کامپیوتر کاربر اجرا می‌شود، به‌سرعت به سوژه داغ دنیای تکنولوژی تبدیل شده است. کاربران در شبکه‌های اجتماعی می‌گویند این ابزار «واقعا کار انجام می‌دهد» و می‌تواند بسیاری از کارهای تکراری روزمره را به‌صورت خودکار انجام دهد؛ از مدیریت یادآورها گرفته تا ثبت داده‌های سلامت و حتی ارتباط با مشتریان.

موتور ایجنت لوکال که به حساب‌ها و اپ‌ها وصل می‌شود

بر اساس گزارش The Verge، Moltbot که قبلا با نام Clawdbot شناخته می‌شد، روی انواع دستگاه‌ها به‌صورت محلی اجرا می‌شود و کاربر از طریق پیام‌رسان‌هایی مثل واتساپ، تلگرام، سیگنال، دیسکورد و iMessage با آن چت می‌کند. این ایجنت درخواست‌ها را از طریق ارائه‌دهنده هوش مصنوعی انتخابی کاربر، مانند OpenAI، Anthropic یا گوگل، پردازش می‌کند و می‌تواند فرم‌های مرورگر را پر کند، ایمیل بفرستد و تقویم را مدیریت کند.

برخی کاربران پا را فراتر گذاشته‌اند و از Moltbot برای سناریوهای خلاقانه‌تر استفاده کرده‌اند؛ مثلا ساخت گزارش روزانه صوتی از فعالیت‌های ثبت‌شده در اپ‌هایی مثل تقویم، ابزارهای مدیریت کارها و نوت‌برداری. این روند، بخشی از موج جدید «ایجنت‌های خودکار» است که وعده می‌دهند به‌جای چت ساده، واقعا اقدام عملی انجام دهند.

قدرت زیاد، لبه‌های تیز امنیتی

نقطه تمایز و در عین حال نقطه خطر Moltbot این است که کاربر می‌تواند به آن سطح دسترسی عمیق به سیستم بدهد؛ از جمله خواندن و نوشتن فایل‌ها، اجرای دستورات شل و اسکریپت‌ها. متخصصان امنیت هشدار می‌دهند ترکیب دسترسی ادمین به دستگاه و ذخیره اطلاعات حساب‌ها و کلیدهای API، در صورت سوءاستفاده یا نفوذ، می‌تواند به حملات جدی منجر شود.

کارشناسان امنیتی به امکان حملات «پرامپت اینجکشن» هم اشاره کرده‌اند؛ جایی که مهاجم با یک دستور مخرب در پیام، فایل، ایمیل یا صفحه وب، رفتار ایجنت را منحرف می‌کند. در یک مورد جداگانه، یک پژوهشگر امنیتی گزارش داده که پیام‌های خصوصی و اطلاعات حساس مرتبط با Moltbot مدتی روی وب در معرض دید قرار گرفته بود؛ موضوعی که پس از گزارش به توسعه‌دهندگان، به‌گفته او برطرف شده است.

نام‌گذاری، کلاهبرداری و موج ایجنت‌ها

یکی از توسعه‌دهندگان Moltbot خودش این نرم‌افزار را «ابزاری قدرتمند با لبه‌های تیز» توصیف کرده و به کاربران توصیه کرده قبل از متصل کردن آن به اینترنت عمومی، اسناد امنیتی را با دقت بخوانند. پس از تغییر نام این پروژه از Clawdbot به Moltbot به‌دلیل نگرانی‌های حقوقی حول نام قبلی، حتی یک توکن جعلی رمزارزی با نام Clawdbot راه‌اندازی شده که نشان می‌دهد محبوبیت سریع چنین پروژه‌هایی چگونه می‌تواند زمینه‌ساز سوءاستفاده نیز شود.

برای کاربران ایرانی، این نوع ایجنت‌های لوکال می‌تواند راهی برای ساخت دستیارهای کاملا شخصی‌سازی‌شده باشد که با ابزارهای روزمره ادغام می‌شوند، به‌ویژه اگر همراه با سرویس‌های موجود مثل خرید اکانت های هوش‌مصنوعی یا ابزارهایی مانند ChatGPT و دیگر مدل‌ها استفاده شوند. با این حال، رعایت اصول امنیتی، محدود کردن سطح دسترسی و استفاده از حساب‌ها و کلیدهای جداگانه برای این قبیل پروژه‌ها، برای کاهش ریسک کاملا حیاتی است.

منبع خبر: The Verge

منبع: The Verge

توییترتلگرامواتساپ

مقالات مرتبط

شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی
شتاب دوباره رشد چت‌جی‌پی‌تی همزمان با دور جدید سرمایه‌گذاری اوپن‌ای‌آی

طبق گزارشی از CNBC، سم آلتمان در جلسه‌ای داخلی از شتاب‌گرفتن دوباره رشد چت‌جی‌پی‌تی سخن گفته است؛ هم‌زمان گفته می‌شود اوپن‌ای‌آی در آستانه جذب دور جدیدی از سرمایه‌گذاری با ارزش‌گذاری بسیار بالا است.

5 دقیقه
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ
هشدار اتحادیه اروپا به متا برای عقب‌نشینی از سیاست هوش مصنوعی واتس‌اپ

اتحادیه اروپا به متا هشدار داده که در صورت عدم اصلاح سیاست‌های هوش مصنوعی در واتس‌اپ، اقدام‌های موقت ضدانحصار علیه این شرکت اعمال خواهد شد. بروکسل نگران استفاده متا از داده‌های کاربران برای خدمات هوش مصنوعی است.

5 دقیقه