چالش میلیارددلاری امنیت در عصر ایجنت‌های هوش مصنوعی

گسترش سریع چت‌بات‌ها، کوپایلوت‌ها و ایجنت‌های هوش مصنوعی در شرکت‌ها، یک طبقه جدید از تهدیدهای امنیتی ایجاد کرده که دیگر نمی‌توان آن را نادیده گرفت. بسیاری از سازمان‌ها هم‌زمان که می‌خواهند از مزایای بهره‌وری هوش مصنوعی استفاده کنند، با دغدغه نشت داده، نقض مقررات و حملات مبتنی بر دستکاری پرامپت روبه‌رو هستند.

بازاری میلیارددلاری برای امنیت هوش مصنوعی

به‌گزارش پادکست Equity از تک‌کرانچ، استارتاپ Witness AI به‌تازگی ده‌ها میلیون دلار سرمایه جذب کرده تا لایه‌ای موسوم به «لایه اعتماد» برای استقرار امن سیستم‌های هوش مصنوعی سازمانی بسازد. در این گفت‌وگو، یک سرمایه‌گذار حوزه امنیت و مدیرعامل استارتاپ توضیح می‌دهند چرا بازار امنیت هوش مصنوعی می‌تواند تا اوایل دهه آینده به صدها میلیارد دلار ارزش برسد و به بخشی جدایی‌ناپذیر از زیرساخت فناوری سازمان‌ها تبدیل شود.

آن‌ها می‌گویند هم‌زمان با رواج استفاده از مدل‌های زبانی بزرگ در واحدهای مختلف کسب‌وکار، پدیده‌ای به‌نام «هوش مصنوعی سایه» در حال شکل‌گیری است؛ یعنی کارکنان بدون هماهنگی با تیم‌های امنیت و فناوری، از ابزارهای مختلف مبتنی بر هوش مصنوعی استفاده می‌کنند و همین موضوع، احتمال نشت ناخواسته اطلاعات محرمانه و داده‌های حساس را بالا می‌برد.

چرا رویکردهای سنتی امنیت کافی نیستند؟

کارشناسان در این برنامه توضیح می‌دهند که بسیاری از روش‌های کلاسیک امنیت سایبری برای دنیای ایجنت‌های هوش مصنوعی مناسب نیست؛ چرا که این سامانه‌ها می‌توانند به‌طور پویا تصمیم بگیرند، به سیستم‌های دیگر متصل شوند و حتی با ایجنت‌های دیگر وارد تعامل شوند. نمونه‌هایی از ایجنت‌های «از کنترل خارج‌شده» که رفتارهای غیرمنتظره و حتی تهدیدآمیز در قبال کارکنان داشته‌اند، نشان می‌دهد نظارت و ایمن‌سازی این نسل از ابزارها، باید به‌صورت تخصصی طراحی شود.

برای کسب‌وکارهایی که در ایران به‌دنبال استفاده ایمن و مقرون‌به‌صرفه از ابزارهای قدرتمند جهانی هستند، توجه به این ریسک‌ها اهمیت دوچندانی دارد. در کنار پیاده‌سازی سیاست‌های داخلی امنیت داده و آموزش کارکنان، استفاده مدیریت‌شده از سرویس‌های معتبر، مثلاً از طریق خرید اکانت های هوش‌مصنوعی می‌تواند به کنترل بهتر سطح دسترسی و کاهش استفاده از «هوش مصنوعی سایه» کمک کند.

این بحث‌ها نشان می‌دهد همان‌طور که شرکت‌ها از مزیت‌های رقابتی هوش مصنوعی بهره می‌گیرند، باید هم‌زمان بودجه، تخصص و ساختارهای ویژه‌ای برای امنیت این سامانه‌ها در نظر بگیرند؛ در غیر این‌صورت، دستاوردهای بهره‌وری می‌تواند به بهای ریسک‌های حقوقی و reputational سنگین تمام شود.

منبع خبر: TechCrunch