طبق گزارشی از تککرانچ، بخشی از تیم مسئول نگهداری پروژه متنباز SGLang از دل آزمایشگاه دانشگاه برکلی جدا شده و استارتاپ جدیدی به نام RadixArk را شکل داده است. این شرکت بر زیرساخت استنتاج هوش مصنوعی تمرکز دارد و به گزارش منابع آگاه، در یکی از تازهترین دورهای سرمایهگذاری به ارزشی در حدود ۴۰۰ میلیون دلار رسیده است.
RadixArk از دل دانشگاه به بازار تجاری میآید
پروژه SGLang در سال ۲۰۲۳ در آزمایشگاه آیون استوئیکا، همبنیانگذار دیتابریکس در دانشگاه برکلی، آغاز شد و بهعنوان یک ابزار متنباز برای تسریع اجرای مدلهای هوش مصنوعی مورد توجه قرار گرفت. شرکتهایی مانند xAI و Cursor از این موتور برای اجرای سریعتر مدلهای خود روی همان سختافزار استفاده میکنند. حالا بخشی از تیم سازنده، این فناوری را در قالب یک شرکت تجاری به نام RadixArk ادامه میدهد و همچنان توسعه SGLang را بهصورت متنباز پیش میبرد.
مدیرعامل و همبنیانگذار RadixArk «یینگ شِنگ» است؛ یکی از مشارکتکنندگان کلیدی SGLang که پیش از این در xAI و دیتابریکس فعالیت کرده است. این استارتاپ علاوه بر موتور استنتاج، روی فریمورکی به نام Miles برای یادگیری تقویتی نیز کار میکند تا به کسبوکارها کمک کند مدلهای خود را در طول زمان هوشمندتر کنند. هرچند بخش عمده ابزارها رایگان مانده، اما گفته میشود RadixArk برای خدمات میزبانی و برخی سرویسهای تجاری شروع به دریافت هزینه کرده است.
چرا بازار استنتاج هوش مصنوعی داغ شده است؟
استنتاج، یعنی همان مرحله اجرای مدل پس از آموزش، بخش بزرگی از هزینه سرور در سرویسهای هوش مصنوعی را تشکیل میدهد. هر بهینهسازی در این بخش، به معنی کاهش محسوس هزینه و ارائه پاسخ سریعتر به کاربر است؛ به همین دلیل استارتاپهایی که زیرساخت و نرمافزار بهینهسازی استنتاج ارائه میکنند، در ماههای اخیر با موج سرمایهگذاری روبهرو شدهاند. پروژه متنباز دیگری به نام vLLM نیز مسیری مشابه طی کرده و به یک شرکت مستقل تبدیل شده است؛ چندین شرکت بزرگ فناوری همین حالا بار استنتاج خود را روی vLLM اجرا میکنند.
رشد چنین استارتاپهایی برای اکوسیستم جهانی و البته برای کاربران ایرانی اهمیت دارد؛ زیرا با کاهش هزینه و افزایش سرعت اجرای مدلها، استفاده از سرویسهای ابری و ابزارهای پیشرفته هوش مصنوعی در دسترستر میشود. برای نمونه، توسعهدهندگان و کسبوکارهای ایرانی که بهدنبال استفاده عملی از مدلهای هوش مصنوعی هستند، میتوانند در کنار زیرساخت، از سرویسهایی مثل خرید اکانت های هوشمصنوعی برای دسترسی به ابزارهای متنوع تولید محتوا، کدنویسی و تحلیل داده بهره بگیرند و روی لایه کاربرد تمرکز کنند.
با تداوم رقابت در بازار استنتاج، انتظار میرود شرکتهای بیشتری از دل پروژههای متنباز دانشگاهی به استارتاپهای پرارزش تبدیل شوند و نبرد برای کاهش هزینه و افزایش بهرهوری در لایه زیرساخت هوش مصنوعی شدت بگیرد؛ مسیری که RadixArk و SGLang یکی از نمونههای تازه آن هستند.
منبع خبر: TechCrunch
