AppHami.aiSe alle værktøjer

vLLM

Højtydende motor til at køre sprogmodeller på GPU'er.

Gratis download (open source)

Officielt websted ↗

Udvikler
vLLM Project
Licens
Apache-2.0
Platforme
Linux
Kategori
Udvikling og teknologi

Nyttig for

Lignende programmer

Kontrolleret af AppHami.ai mod officiel kilde