diegosouzapw/OmniRoute

AIのコーディングツールを使っていると、作業の途中で上限に当たって止まる。契約しているのは1社とは限らず、無料枠を持っている先も別にある。しかしツール側の設定は接続先を1つしか持たない。OmniRoute は、この間に立つ手元で動かす中継役。自分のPCで待ち受ける窓口を1つ立て、コーディングツールにはその窓口だけを見せる。窓口の向こうで、どの提供元に流すかを決めるのは OmniRoute だ。

中心にあるのは「コンボ」と呼ぶ仕組みで、使うモデルを1本の列にしておくもの。上限に達した、提供元が落ちた、費用が跳ねた、といったときに、列の次の生きている先へ自動で移る。既定の順番は決まっていて、契約しているもの → 自分のAPIキー → 安いところ → 無料枠、の4段を上から試す。この順番は変えられて、振り分け方は19種類が用意されている。安い順・残り枠の多い順・順番に回す・最後にうまくいった先に留まる、といった方針から選ぶ。モデル名に auto と書けば、接続済みの提供元からその場で組み立てる動きもする。落ちた先を切り離す仕組みも3層に分かれていて、提供元まるごと止める・特定の鍵だけ休ませる・そのモデルだけ使わない、と粒度が分けてある。

もうひとつの売りが、無料枠の集約と、送るトークン量の削減だ。README には各社の無料枠を一覧にした画面があり、月あたりどれだけ使えるかを集計して表示すると書かれている。削減のほうは自前の仕組みで、README は RTK や Caveman といった先行プロジェクトの考え方を取り入れたものだと書いている。複数の圧縮を重ねて掛ける形で、看板に出ている数字は 15〜95%。ただし内訳を見ると幅がある。既定の組み合わせ（RTK → Caveman）を重ねたときは 78〜95%、平均 89% という計算が示されていて、看板の平均89%はこの組み合わせの数字だ。下限の15%は、いちばん軽い設定のときの値になる。鍵は手元に暗号化して置き、使用量や費用は自前の画面で見る、という作りになっている。

上限に当たって作業が止まるのが困るとき

途中で止まると、作業だけでなく思考も切れる。行き先の列を先に決めておけば、止まった時点で次に移る。作業を続けることを最優先にしたい場面向けの道具だ。

契約と無料枠が複数に散らばっているとき

会社の契約、自分のAPIキー、各社の無料枠。どれがどれだけ残っているかは、普段は見えない。残量や費用を1つの画面で見られること自体が、使い分けの判断材料になる。

README の数字は、そのまま引用しないほうがいい。 提供元の数は同じ README の中で352と356が混在している。さらに「無料」の件数は、数え方が複数ある。README 自身が、352のうち無料の印が付くのは152、無料枠のカタログは444行・34のプール・恒久無料が52、と並べたうえで、これらは意図的に別々の分母だと断っている。加えて、無料枠の集計は2週間ごとに監査していて増えも減りもする、とも書かれている。どれも時点の値として読むのが正しい。トークン削減の「15〜95%」も、対象になる作業での話だ。

無料枠を束ねる使い方は、相手の規約次第。 各社の無料枠には、それぞれ条件がある。README 自体、規約上のリスクから「避けるべき」と印を付けた提供元を13件挙げていると書いている。使う前に、自分が使う提供元の規約を読むという手順は省けない。

検知を避けるための機能が含まれている。 接続の指紋を変える仕組みや多段のプロキシが機能として挙がっている。相手側の制限をすり抜ける性格を持つので、業務で使うなら、そこを承知したうえで判断する必要がある。

鍵が1か所に集まる。 暗号化して手元に置く設計だが、集約したぶん、その1か所の管理が重くなることは変わらない。共用PCや持ち出す端末では特に。

README が非常に長い。 宣伝的な表現も多く、機能の一覧を追うだけで疲れる。試すなら、まず窓口を立ててツールを1つつなぐところまでに絞るとよい。ライセンスは MIT。