vLLM стал стартапом: $150 млн на ускорение ИИ

Проект с открытым исходным кодом vLLM, известный своими разработками в области ускорения работы моделей искусственного интеллекта, объявил о своем переходе в статус венчурного стартапа под названием Inferact. Компания привлекла впечатляющие 150 миллионов долларов на начальном этапе финансирования, получив оценку в 800 миллионов долларов.

Инвестиционный раунд возглавили известные венчурные фонды Andreessen Horowitz и Lightspeed Venture Partners, подтверждая ранее появившиеся сообщения о привлечении средств от a16z.

Дебют Inferact совпадает с недавней коммерциализацией проекта SGLang под брендом RadixArk, который, по имеющейся информации, также привлек значительные инвестиции при оценке в 400 миллионов долларов.

В условиях, когда акцент в сфере искусственного интеллекта смещается от обучения моделей к их практическому применению, а именно к процессу инференса (вывода), технологии, подобные vLLM и SGLang, способные сделать работу ИИ-инструментов быстрее и экономичнее, привлекают пристальное внимание инвесторов.

Стоит отметить, что оба проекта, vLLM и SGLang, были разработаны в лаборатории Калифорнийского университета в Беркли под руководством Иона Стоики, одного из соучредителей Databricks.

Саймон Мо, генеральный директор Inferact и один из первоначальных создателей vLLM, сообщил, что среди текущих пользователей технологии vLLM — облачный сервис Amazon и популярное приложение для покупок.