vLLM
Высокопроизводительный движок для обслуживания языковых моделей на GPU.
Бесплатная загрузка (открытый код)
- Разработчик
- vLLM Project
- Лицензия
- Apache-2.0
- Платформы
- Linux
- Категория
- Разработка и технологии
Подходит для
- ИИ для крупных организаций и корпораций
- ИИ для разработчиков
- ИИ для исследователей
- ИИ для облака, серверов и хостинга
Похожие приложения
Проверено AppHami.ai по официальному источнику