Heuristic API-Proxy for Off-Peak Routing (HAP-OR)

誰のための案か

バックグラウンドの LLM 処理(日次のベクトル取り込み、メール要約、一括分類)が多く、標準のオンデマンド単価を払っている小さな SaaS スタートアップと個人開発者

どんな困りごとか

金銭。大量のバックグラウンド処理では LLM API 代が持続不能で、オフピーク単価を突く cron / キューの自作はインフラ保守が重い

どう作るか

利用者のインフラで動く軽量なセルフホスト Docker プロキシ。環境変数で設定し、API のベース URL を差し替えるだけ

どう稼ぐか

SaaS ビルダーが、レート制限モデリング付きのビルド済みバイナリ + ダッシュボードに月 $15、Docker 管理を避けたいホスト型リレーに月 $49 を払う

なぜまだ無いのか

OpenAI や DeepSeek のような提供側は生の計算資源と需要ベースの価格で売る側で、自社のピーク時マージンを削るクライアント側・プロバイダ横断のスケジューリング最適化を作る動機が無い。既存コードはベース URL の変更だけで済むため、個人開発者がドロップインのプロキシとして出しやすい、という主張

最初の利用者

バッチのニュースレター分析やベクトル同期を回していて、突然の月 $200 超の API 請求を食らった個人開発者

作る規模

1 人 × 4 週間

一番のリスク

大手プロバイダがピーク / オフピークの価格差を完全に無くすリスクは低い、という見立て(クラウドや AI データセンターは負荷シフトに構造的に依存するため)

的中の条件(3 つすべて必要)

• 送信 LLM リクエストを傍受・解析し、遅延可能を示すカスタムヘッダ(X-Urgency: low)を見る
• 低優先のペイロードをローカルの SQLite キューに保持し、プロバイダ別の割引時間帯が始まった瞬間にディスパッチする
• アクティブなプロバイダ単価表に基づき、直近 30 日の API コスト削減額をリアルタイム表示するローカル診断 UI

的中の判定(6ヶ月後)

GitHub 400 スター超、または 6 ヶ月以内に Product Hunt デイリー Top 10(判定日 2027-02-15)

AI自己確度 78/100 — 判定条件を満たす見込みの自己申告で、事業の成功率ではありません