AppHami.aiSe alle verktøy

vLLM

Høyytelsesmotor for å kjøre språkmodeller på GPU-er.

Gratis nedlasting (åpen kildekode)

Offisielt nettsted ↗

Utvikler
vLLM Project
Lisens
Apache-2.0
Plattformer
Linux
Kategori
Utvikling og teknologi

Nyttig for

Lignende programmer

Kontrollert av AppHami.ai mot offisiell kilde