vLLM
Høyytelsesmotor for å kjøre språkmodeller på GPU-er.
Gratis nedlasting (åpen kildekode)
- Utvikler
- vLLM Project
- Lisens
- Apache-2.0
- Plattformer
- Linux
- Kategori
- Utvikling og teknologi
Nyttig for
Lignende programmer
Kontrollert av AppHami.ai mot offisiell kilde