vLLM
Högpresterande motor för att köra språkmodeller på GPU:er.
Gratis nedladdning (öppen källkod)
- Utvecklare
- vLLM Project
- Licens
- Apache-2.0
- Plattformar
- Linux
- Kategori
- Utveckling och teknik
Användbar för
- AI för stora organisationer och koncerner
- AI för utvecklare
- AI för forskare
- AI för moln, servrar och hosting
Liknande program
Kontrollerat av AppHami.ai mot officiell källa