AppHami.aiLihat semua alat

vLLM

Mesin berthroughput tinggi untuk menyajikan model bahasa di GPU.

Unduh gratis (sumber terbuka)

Situs resmi ↗

Pengembang
vLLM Project
Lisensi
Apache-2.0
Platform
Linux
Kategori
Pengembangan dan teknologi

Berguna untuk

Aplikasi serupa

Diperiksa oleh AppHami.ai di sumber resmi