Jitera自身、7ヶ月で10倍に増加したAI利用料を抑えるため、LLMの品質とコストを最適化する取り組みを重ねてきました。その知見と仕組みを製品化しています。AI制御基盤に接続するだけで、LLMの品質を維持しながら、利用コストを最適化できます。
OUR STORY
これは、AIプロダクトを運営するJitera自身が直面した課題です。AIコンテキストプラットフォーム Jiteraはお客様の利用が順調に伸び、社内でもAIエージェントの活用が急速に拡大しました。一方で、LLMのトークン費用は事業の成長を上回るペースで増加し、重要な経営課題となりました。
そこで、LLMの開発元とも技術的な議論を重ねながら、品質を維持しつつコストを抑えるためのさまざまなアプローチを実践してきました。こうした実体験と、そこで培った知見・技術をもとに生まれたのが、AI制御基盤です。
JiteraのAI利用料(2025/10を1とした相対値)
SOLUTION
AI制御基盤は、経由するリクエストに複数の削減施策を自動で適用します。
ルーティング
プロンプトの難易度や予算に応じて、最適なLLMに自動で振り分けます。切り替えると逆に高くつく場合は切り替えない、という判断までリクエストごとに自動で行います。
コンテキスト
仕様書や過去セッションの決定事項を貯めておき、関連する内容を自動で補完。エージェントがリポジトリ内を探し回る調査が減ります。
セマンティックキャッシュ
一度答えた質問は覚えておき、同じ・よく似た質問が来たら保存済みの回答を即座に返します。その分のLLM費用はかかりません。
このほかにも多様な削減アプローチを備えており、お客様のシステムに合わせて組み合わせて適用します。
BENCHMARK
同じ開発タスクをJitera経由とLLMへの直接接続の両方で実行し、比較した実測値です。
コスト
−41.8%
正答率
+9pt
実行時間
−45.3%
※ 計測方法: 100万行超のオープンソースリポジトリでテストコードを作成し、テストを通過するコードをAIが出力できたかどうかで比較(自社調べ)。※ ご利用用途により、正答率・コスト・実行時間の効果の出方は異なります。上記は計測の一例であり、同等の効果を保証するものではありません。
COST CONTROL
LLMへの経路を一本化し、コストを記録・予測・制御します。
組織 / チーム / 個人 / APIキー別で月次の利用額を自動集計。LLMの価格情報は、公開情報より日次で同期します。貴社が契約しているLLMプロバイダーのディスカウント率も、集計に反映できます。
月初からの平均ペースでLLM費用を線形予測。予測をもとにルーティングを動的に変更し、コストコントロールをできます。予算が80% / 100%に到達時、また予算着地見込みが判明時に管理者へメール。
予算到達でLLMリクエストを停止(翌月になるか、予算引き上げまで)、または継続して超過を受け付けるか設定可能。予算使用率を条件に安価なモデルへ経路を切り替えて着地させる設定も組めます。
月次予算の推移(設定例)
予算使用率を条件にした自動切替は運用案の一つです。
VISIBILITY
誰が・どのツールで・どのモデルをどれだけ使っているかが、ひと目で分かります。
何にトークンが使われているか、費用の要因をリクエスト単位まで掘り下げられます。
LLM費用の予算上限を設定し、超過する前にメールのアラートで気づけます。
EASY START
エージェントも内製AIシステムも、接続先をJiteraに向けるだけで使い始められます。
IN-HOUSE SYSTEMS
AnthropicやOpenAIのSDKはそのまま。接続先URLをJiteraに変えてAPIキーを設定するだけで、既存のAIシステムに記録・統制・最適化が効きます。
base_url = "https://api.jitera.com/v1"
api_key = "JITERA_API_KEY"
CODING AGENTS
CLIでログインして、エージェントを選ぶだけ。Claude Code・Codex・GitHub Copilotなどに対応し、切断すればいつでも元の設定に戻せます。
$ jitera login
$ jitera connect claude-code
導入設計から効果実測まで、伴走支援(導入・活用支援)もあります。
EXPLORE SOLUTIONS
