Agent skill · marketing growth · affaan-m
cost-aware-llm-pipeline
LLM APIの使用量のコスト最適化パターン — タスクの複雑さによるモデルルーティング、予算追跡、リトライロジック、プロンプトキャッシング。
Why this skill is useful
Provides domain-specific patterns for cost optimization in LLM API usage, including model routing and budget tracking that the AI wouldn't reliably generate on its own.
What it needs
About 2k tokens when loaded. Last updated 2026-08-06. 238,342 stars on the source repository.
What this skill does
コスト認識LLMパイプライン 品質を維持しながらLLM APIのコストをコントロールするためのパターン。モデルルーティング、予算追跡、リトライロジック、プロンプトキャッシングを組み合わせた合成可能なパイプライン。 起動条件 LLM APIを呼び出すアプリケーションの構築（Claude、GPTなど） 複雑さが異なるアイテムのバッチ処理 API支出の予算内に収める必要がある場合 複雑なタスクの品質を犠牲にせずにコストを最適化する場合 コアコンセプト 1. タスクの複雑さによるモデルルーティング シンプルなタスクには自動的に安価なモデルを選択し、複雑なタスクのために高価なモデルを予約します。 2. 不変のコスト追跡 凍結データクラスで累積支出を追跡します。各API呼び出しは新しいトラッカーを返します — 状態を変更しません。 3. 狭いリトライロジック 一時的なエラーのみリトライします。認証やリクエストエラーでは素早く失敗します。 4. プロンプトキャッシング 長いシステムプロンプトをキャッシュして、リクエストごとに再送信しないようにします。 合成 4つのテクニックすべてを単一のパイプライン関数に組み合わせます： 価格リファレンス（2026年） モデル 入力（$/1Mトークン） 出力（$/1Mトークン） 相対コスト ------- --------------------- ---------------------- --------------- Haiku 3.5 (legacy) $0.80 $4.00 0.8x Haiku 4.5 $1.00 $5.00 1x Sonnet 5 $2.00 $10.00 2x Sonnet 4.6 $3.00 $15.00 3x Opus 4.8 $5.00 $25.00 5x Fable 5 / Mythos 5 $10.00 $50.00 10x Opus 4.0 / 4.1 (legacy) $15.00 $75.00 15x ベストプラクティス 最も安価なモデルから始める、複雑さの閾値が満たされた場合にのみ高価なモデルにルーティングする バッチ処理の前に明示的な予算制限を設定する — 過剰支出より早期に失敗する モデル選択の決定をログに記録する、実際のデータに基づいて閾値を調整できるように 1024トークンを超えるシステムプロンプトにはプロンプトキャッシングを使用する — コストとレイテンシーの両方を節約 認証またはバリデーションエラーではリトライしない — 一時的な失敗のみ（ネットワーク、レート制限、サーバーエラー） 避けるべきアンチパターン 複雑さに関わらずすべてのリクエストに最も高価なモデルを使用すること すべてのエラーでリトライすること（永続的な失敗で予算を無駄にする） コスト追跡の状態を変更すること（デバッグと監査が困難になる） コードベース全体にモデル名をハードコードすること（定数または設定を使用する） 繰り返しのシステムプロンプトでプロンプトキャッシングを無視すること 使用すべき場合 Claude、OpenAI、または同様のLLM APIを呼び出すすべてのアプリケーション コストが積み上がるバッチ処理パイプライン インテリジェントルーティングが必要なマルチモデルアーキテクチャ 予算ガードレールが必要な本番システム
How to use it
Reference it in AdaL, Claude Code, Cursor or any coding agent — nothing to install:
@skills affaan-m/cost-aware-llm-pipeline--d5b198