سازندگان پروژه متنباز vLLM اعلام کردهاند این ابزار محبوب اینفرنس مدلهای زبانی بزرگ را در قالب استارتاپ جدیدی به نام Inferact تجاریسازی کردهاند و در نخستین گام موفق به جذب ۱۵۰ میلیون دلار سرمایه اولیه با ارزشگذاری حدود ۸۰۰ میلیون دلاری شدهاند.
سرمایهگذاری سنگین روی زیرساخت اینفرنس
طبق گزارشها، این دور سرمایهگذاری توسط دو صندوق مطرح اندریسن هوروویتز (a16z) و لایتاسپید هدایت شده است. vLLM که در ابتدا به عنوان یک پروژه متنباز معرفی شد، با تمرکز بر بهینهسازی اینفرنس مدلهای زبانی بزرگ، به شرکتها و توسعهدهندگان کمک میکند تا پاسخگویی مدلها را سریعتر و با هزینه محاسباتی کمتر انجام دهند. حالا Inferact قصد دارد همین فناوری را در قالب محصولات و خدمات تجاری در اختیار مشتریان سازمانی قرار دهد.
این حرکت در ادامه موج گسترده تمرکز صنعت بر مرحله «اینفرنس» پس از تب اولیه آموزش مدلهای بزرگ است؛ جایی که کارایی در اجرا، مصرف منابع و مقیاسپذیری اهمیت حیاتی پیدا میکند. استارتاپهای دیگری مانند پروژه SGLang که اخیراً با نام RadixArk تجاری شده نیز در همین حوزه فعالیت میکنند و نشان میدهند بازار زیرساخت اینفرنس به سرعت در حال داغ شدن است.
نقش دانشگاه و غولهای ابری
هر دو پروژه vLLM و SGLang در سال ۲۰۲۳ در آزمایشگاه دانشگاه برکلی که یکی از همبنیانگذاران دیتابریکس، آیون استوئیکا، در آن فعالیت میکند، شکل گرفتهاند. به این ترتیب، میتوان Inferact را نمونهای از تجاریسازی مستقیم پژوهش دانشگاهی در مقیاس بزرگ دانست. مدیرعامل Inferact، سایمون مو، از خالقان اولیه vLLM است و طبق اظهارات او، سرویسهای ابری بزرگ و پلتفرمهای خرید آنلاین از جمله کاربران فعلی vLLM به شمار میروند؛ موضوعی که نشان میدهد این فناوری پیش از تجاریسازی رسمی هم در عمل به کار گرفته شده است.
برای کسبوکارها و توسعهدهندگان ایرانی که به دنبال استفاده از مدلهای پیشرفتهاند، موج جدید استارتاپهای اینفرنس میتواند به معنای دسترسی آسانتر به پشتههای بهینهسازیشده و کاهش هزینه اجرای مدلها باشد. در کنار این تحولات، استفاده از سرویسهای ابری و ابزارهای کاربردی هوش مصنوعی نیز رو به افزایش است و کاربرانی که به دنبال خرید اکانت های هوشمصنوعی هستند، میتوانند از این اکوسیستم روبهرشد برای ساخت محصولات و سرویسهای بومی خود بهره ببرند.
استقبال سرمایهگذاران خطرپذیر از شرکتهایی مانند Inferact نشان میدهد که رقابت اصلی نسل بعدی هوش مصنوعی، بیش از آنکه صرفاً بر سر اندازه مدلها باشد، در لایه زیرساخت اجرا و کارآمدتر کردن اینفرنس شکل خواهد گرفت؛ جایی که ابزارهایی مثل vLLM میتوانند مزیت رقابتی مهمی برای ارائهدهندگان سرویسهای هوش مصنوعی ایجاد کنند.
منبع خبر: TechCrunch
