vllm-project/vllm
Apache-2.0 · 商用可
A high-throughput and memory-efficient inference and serving engine for LLMs
記録している数値
開発の様子
3.7 年
公開してからの期間。2023-02-09 が最初のコミットです
104 回
リリースの回数です
3,309 人
開発に参加した人数です
0 日前
最後のコミットです
9,050 件
未解決の Issue とプルリクエストの合計です(GitHub はこの2つを同じ数に含めます)
ほかの候補
sgl-project/sglang同じ前置きを何度も計算し直すのをやめて、LLMの応答が返るまでを縮める
multimodal-art-projection/YuE いきなり音にせず、先に楽譜を書いてから曲にする音楽モデル
harry0703/MoneyPrinterTurbo テーマを一言入れると、台本から音声まで揃った短い動画が出てくる