AppHami.aiدیدن همه‌ی ابزارها

vLLM

موتور پرسرعت برای سرویس‌دهی مدل‌های زبانی روی کارت گرافیک.

دانلود رایگان (متن‌باز)

وب‌سایت رسمی ↗

سازنده
vLLM Project
مجوز
Apache-2.0
سیستم‌عامل
Linux
دسته
برنامه‌نویسی و فناوری

مناسب برای

برنامه‌های مشابه

بررسی‌شده توسط AppHami.ai از منبع رسمی