AppHami.aiВсе инструменты

vLLM

Высокопроизводительный движок для обслуживания языковых моделей на GPU.

Бесплатная загрузка (открытый код)

Официальный сайт ↗

Разработчик
vLLM Project
Лицензия
Apache-2.0
Платформы
Linux
Категория
Разработка и технологии

Подходит для

Похожие приложения

Проверено AppHami.ai по официальному источнику