lyogavin/airllm
Apache-2.0 · 商用可
AirLLM 2.8T LLM inference with single 4GB GPU
記録している数値
開発の様子
3.4 年
公開してからの期間。2023-06-13 が最初のコミットです
5 回
リリースの回数です
10 人
開発に参加した人数です
0 日前
最後のコミットです
167 件
未解決の Issue とプルリクエストの合計です(GitHub はこの2つを同じ数に含めます)
ほかの候補
sgl-project/sglang同じ前置きを何度も計算し直すのをやめて、LLMの応答が返るまでを縮める
harry0703/MoneyPrinterTurbo テーマを一言入れると、台本から音声まで揃った短い動画が出てくる
JuliusBrussee/caveman エージェントの言葉を短くして、トークン代の削りしろを作る