vLLM
Højtydende motor til at køre sprogmodeller på GPU'er.
Gratis download (open source)
- Udvikler
- vLLM Project
- Licens
- Apache-2.0
- Platforme
- Linux
- Kategori
- Udvikling og teknologi
Nyttig for
- AI til store organisationer og koncerner
- AI til udviklere
- AI til forskere
- AI til cloud, servere og hosting
Lignende programmer
Kontrolleret af AppHami.ai mod officiel kilde