JuliusBrussee/caveman
エージェントの言葉を短くして、トークン代の削りしろを作る
どういうものか
AI コーディングエージェントの請求額を、中身を変えずに削るための道具です。層が2つに分かれています。ひとつはスキル。エージェントに「短く喋れ」と指示する規則ファイルで、Claude Code をはじめ30種以上のエージェントに npx skills add で入ります。名前のとおり原始人のような言い回しになりますが、短くなるのは説明の散文だけで、コード・コマンド・ファイルのパス・エラーの文面には手を付けません。
もうひとつはプロキシ。手元で動いてエージェントと LLM のあいだに入り、エージェントが読むぶんを圧縮します。中身の種類ごとに削り方を変えるのが特徴で、JSON なら繰り返しの配列、ログなら INFO 行、コードなら関数の中身、というふうに落とします。落とした元データは手元の SQLite に残るので、必要になれば取り戻せます。MCP サーバーとしても立ち、caveman_compress / caveman_retrieve / caveman_stats など5つの道具をエージェントに渡します。
スキルは出ていく側、プロキシは入ってくる側なので、両方を重ねられます。変わり種として「pixel mode」があり、スキルの文面を PNG 画像に描き直して渡します。画像のほうが安くなるときだけ切り替わり、うまくいかなければ元のテキストのまま残す作りです。
どんなときに使うか
読みもしない長い説明に、毎回お金を払っている気がするとき
コードだけ見たいのに、前置きと要約が毎回付いてくる。その散文ぶんが請求に乗っています。上の段だけなら規則ファイル1枚なので、外すのも簡単です。
大きな JSON やログをエージェントに読ませているとき
削りしろが大きいのは入力側です。CSV から異常値を探すような、同じ形が延々続くデータで効きが大きいと計測されています。
注意点
数字は条件つきです。ここを外して読むと期待しすぎます。 65% は「出力だけ」で「10個のプロンプト」の平均で、内訳は 22%〜87% と開きがあります。しかもスキル自体が毎ターン 1〜1.5k の入力トークンを食うので、もともと短いやりとりが中心なら足が出ます。プロキシの 33.2% も、6つのケースを1ケースあたり3回ずつ、圧縮あり・なしの18組で比べた合計で(ベンチ全体は他社の道具も含む3条件・計54回)、HTML では圧縮が効かず +9.9% と増えた例が併記されています。作者自身も、削減額を約束するものではない、数字を人に伝える前に自分の環境で測ってほしい、と断っています。
ライセンスが2つに割れています。 スキルや CLI は MIT ですが、エンジン・プロキシ・キャッシュ・MCP サーバーは BSL-1.1 です。自分で動かすぶんは無料ですが、これを載せたサービスを他人に提供するなら商用ライセンスが要ります。2030年6月21日(または公開から4年)に Apache-2.0 へ変わる条件付きです。
圧縮は情報を捨てる行為です。 捨てた側が実は必要だった、という事故は原理的に起きます。元データが手元に残って取り戻せる設計になっているのは、その裏返しでもあります。監査ログのように「省略された」こと自体が問題になる用途では、入れる前に考えたほうがいい種類の道具です。