LLM の API コストを下げたい方へ — 削減の前に「見える化」の話
「今月の OpenAI の請求、なんでこんなに高いんだ」— LLM を組み込んだアプリやエージェントを運用していると、必ず一度はこの瞬間が来ます。このページは、LLM コストを実際に下げるための実務的な考え方と、Argosvix(アーゴスヴィクス)がその中でできることを整理したものです。
コスト削減の前に: ほとんどの場合、内訳が見えていない
請求書で分かるのは「プロバイダーごとの合計」だけです。実際に削減の判断に必要なのは:
- どの機能・どのモデルがいくら使っているか
- その呼び出しは成果に見合っているか(安いモデルで足りないか)
- 異常な使われ方(暴走ループ・リトライ嵐・不要な長文プロンプト)が混ざっていないか
内訳が見えないまま「モデルを安いものに変える」と、品質が落ちた分の手戻りでかえって高くつくことがあります。順番は、見える化 → 異常の排除 → モデル/プロンプトの最適化です。
見落とされがちなコストの漏れ 4 つ
実際に計測を作ると分かる、請求と体感がズレる典型例です。
1. ストリーミングの計上漏れ
OpenAI はストリーミング時に設定(stream_options)を付けないとトークン数を返しません。チャット UI 系はほぼ全部ストリーミングなので、素朴な自前計測では大半が「0 円」に見えます。
2. 途中で切られた呼び出し
ユーザーがページを閉じても、切断までのトークンは課金されています。完走した呼び出しだけ数えると過少計上になります。
3. キャッシュの読み違い
プロンプトキャッシュの割引を考慮しないと過大計上、逆にキャッシュ書き込み費を忘れると過少計上になります。
4. エージェントの多段呼び出し
1 つのタスクの裏で数十回の API 呼び出しが走ります。1 回あたりは安くても「タスク単価」で見ると高い、が見えません。
Argosvix の SDK はこの 4 つを全部計測側で処理します(導入は既存コードに 1 行)。
「見える化したら終わり」にしない — 見張りと予算の話
ダッシュボードを作っても、毎日見る時間がなければコストの異常は請求書まで気づけません。Argosvix は見る仕事を AI に任せる設計です:
- 15 分ごとの自動スキャンが、過去の傾向と比べてコストの急増を検出して受信箱に届けます
- 予算ゲートを設定すると、上限に達した時点で呼び出し側で止められます(暴走エージェントが夜中に数万円溶かす事故の保険)
- 「今月いちばん高いモデルは?」「昨日からコストが増えた理由は?」と Claude / Cursor から会話で聞けば、実データから答えが返ります(MCP 対応)
料金の目安
- Free: ¥0 — 月 50,000 呼び出しまで記録、保持 30 日。コストの見える化はここまでで足りる規模も多いです。
- Pro: ¥1,980/月・定額 — 月 1,000,000 呼び出し・保持 90 日・従量課金なし。コスト異常の自動検知・最適化提案・月末予測はこちら。
観測ツール自体が従量課金だと「コストを見るためのコストが読めない」という本末転倒が起きるので、定額にしています。
まず現状を 5 分で見る
npx @argosvix/cli init を実行すると、キー発行から SDK 導入・テスト送信まで自動で終わります。数日動かせば、どの機能がいくら使っているかの内訳が出ます。削減の議論はそこからが本番です。