トークン節約 術その3/プロンプトキャッシング

プロンプトキャッシング|最大のレバーを正しく引く

システム指示・Few-shot の例・参照文書など「変化しない前置き」をキャッシュさせると、読取り側の入力単価が 50〜97% 下がります。効果は絶大ですが、キャッシュが効くかどうかは「前置きの並べ方」1 つで決まります。

01

仕組み:プレフィックス一致で割引が決まる

キャッシュは「リクエストの先頭から何トークンまで前回と完全一致したか」で判定されます。

先頭から一致した部分だけがキャッシュ対象になります。したがって、変化しないものを先頭に、変化するものを後に並べるのが唯一にして最強の配置ルールです。先頭の 1 トークンでも変われば(日時の自動挿入など)、その後すべてがキャッシュ無効になります。

# 良い配置:静的なものから順に [① システム指示(固定)] [② Few-shot の例(固定)] [③ 参照マニュアル(日次で更新)] [④ 会話履歴・今回の入力(毎回変化)] # 悪い配置:先頭に動的要素 [現在日時 ← 毎リクエスト変化 → キャッシュ全滅] [システム指示]...
02

各社の割引ルール(2026年10月時点)

「書込みは少し割増、読取りは大幅割引」——どのベンダーも共通の構造です。

ベンダー書込み読取りメモ
Anthropic(Claude)通常入力の +25%90% OFF明示的にキャッシュ指定が必要
OpenAI(GPT)なし(自動)約 50% OFF数トークン以上の共通プレフィックスを自動検出
Google(Gemini)作成時に通常課金75% OFF明示的作成+ストレージ $4.5/M/時 が別途
DeepSeekなし(自動)約 97% OFF最も深い割引。ヒット時 0.007 $/1M
価格・割引率は変動します。実装前に必ず各社の最新料金ページをご確認ください。
03

実例:固定 8,000 トークン × 1 日 200 リクエストの月額試算

社内マニュアル+Few-shot 込みで固定 8,000 トークンのプロンプトを、1 日 200 回使うケース(30 日稼働)で試算します。モデルは GPT-6 Sol(入力 $2.00/1M)。

方式1 日の入力コスト30 日削減率
キャッシュなし$3.20$96.00—
OpenAI 自動キャッシュ(約50%OFF)$1.60$48.00−50%
Anthropic(書込+25%/読取90%OFF)約 $0.34約 $10.20−89%
DeepSeek(約97%OFF・別単価)約 $0.03約 $0.90−99%(モデル単価も別)
# Anthropic 方式の内訳(1日あたり) 書込み 1 回: 8,000 × 1.25 × $2.00/1M = $0.020 読取り 199 回: 8,000 × 0.10 × $2.00/1M × 199 ≈ $0.318 合計 ≈ $0.34/日(キャッシュなし $3.20 → 約 89% 減)
−89%Anthropic 方式での月額削減率
1 回目だけ割増がかかるのはキャッシュ作成時のみ
04

やり方:キャッシュが効くプロンプトへ作り替える

並べ替えと明示設定の 2 段階です。

  • 静的→動的の順序に並べ替える(01 の配置図を参照)。これだけで OpenAI・DeepSeek は自動で効きます。
  • Anthropic / Gemini は明示設定:API パラメータでキャッシュ対象のブレークポイントを指定します。
  • 可変データを追い出す:日時・ユーザー名・乱数などは前置きから除外し、末尾のユーザー入力側に置く。
  • 更新頻度でブロック分け:日次更新のマニュアルと、分単位で変わるデータは別ブロックにし、よく変わるものを後に。
TTL(保持時間)にも注意。OpenAI のキャッシュは 30 分窓など時間で失効するため、間隔が空く呼び出しではヒット率が下がります。定時バッチでキャッシュを「温めて」おく運用も有効です。
05

注意点

  • 前置きの先頭に「本日の日付」を入れている実装は最も多い自己破綻。まず見直す。
  • 書込み割増は繰り返し使うほど回収される。1 回きりのリクエストにキャッシュ指定は不要。
  • キャッシュはあくまで入力の割引。出力は割引されないため、出力側は術その5と組み合わせる。

関連リンク

省トークン5術の各ページと、サイト内の関連ページです。

My-Best.AI|AIツール比較・ランキング・おすすめ最新AI情報
Logo