トークン節約 術その1/プロンプトの精簡

プロンプトの精簡|毎ターン効く、最も手軽な節約術

システムプロンプトや指示文は、会話の毎ターンで全文が再送されます。つまり「短くする」だけで、会話が長いほど累積コストに直結します。このページでは、日本語プロンプトの Before/After 実例と、削減効果の試算を示します。

01

仕組み:なぜ「短くする」だけで効くのか

LLM の API は、会話の全履歴+システムプロンプトを毎回送り直す設計です。1 ターン目だけでなく、2 ターン目以降も同じ前置きを払い続けます。

たとえばシステムプロンプトが 3,000 トークンのチャットボットで 20 ターン対話すると、前置きだけで 3,000 × 20 = 60,000 入力トークンが消費されます。GPT-6 Sol(入力 $2.00/1M、2026年10月時点)でも $0.12。これが 1,500 トークンに半減できれば、以降のすべての対話で半分の料金です。

3,000×2020ターンでの累積入力(トークン)
−50%前置きを半減させた場合の累積コスト
日本語は 1 文字が約 1〜2 トークン。丁寧な敬語の定型文や例示を多く含むプロンプトは、思いのほか長くなりがちです。トークンの用語解説もあわせてどうぞ。
02

Before / After 実例:日本語プロンプトの削ぎ落とし

実際によくあるカスタマーサポート Bot のシステムプロンプトを例に、削るポイントを示します。

BEFORE(約 620 トークン)
あなたは親切で丁寧なカスタマーサポートの担当者です。お客様からのご質問に対して、 常に誠実に、わかりやすく、順を追ってご説明してください。難しい専門用語を使う場合は 必ず噛み砕いた説明を添えてください。回答の際は、まずお客様のご質問を要約して確認し、 次に回答を番号付きの箇条書きで示し、最後に「他にご不明な点がございましたら、 お気軽にお問い合わせください」という一文で締めてください。誠実さを第一に、 どんな場合でも謝罪の言葉から始めてください。あなたは親切で丁寧な担当者ですので、 お客様を決して責めないでください。回答は日本語で、丁寧に、わかりやすくお願いします。

「親切で丁寧」が 2 回、「わかりやすく」が 2 回、長い敬語の締め文など、モデルの動作を実際には変えない表現が多数あります。

AFTER(約 230 トークン)
カスタマーサポートの回答担当。日本語で、以下の形式で回答: 1. 質問の要約(1文) 2. 回答(番号付き箇条書き、専門用語には短い注釈) 冒頭に状況を謝罪。相手を責める表現は禁止。

形式指定を番号付きリストに集約し、重複表現を削除。約 63% 減で、出力形式の要件はすべて保持しています。

削ぎ落としポイント一覧
削る対象例削っても品質に影響しにくい理由
重複する性格指示「親切で丁寧」の繰り返し1 回の指示で十分伝わる
冗長な敬語・挨拶「お気軽にお問い合わせください…」の全文指定出力テンプレは短い記号指定で代替可能
使わない Few-shot 例5 つの例のうち似た 3 つ代表的な 1〜2 例で形式は学習できる
曖昧な修飾語「できる限り」「なるべく詳しく」動作を決定していない。max_tokens 等で制御する方が確実
03

やり方:削る前に「数える」習慣

削る前に、今のプロンプトが何トークンかを把握します。

  • tiktoken(OpenAI 公開ライブラリ)で手元のプロンプトを計数する。
  • 管理画面の usage ダッシュボードで「入力のうち固定部分の割合」を確認する。
  • 短縮後も出力品質が落ちないか、10 件程度のテストケースで比較する。
# tiktoken でトークン数を数える例 import tiktoken enc = tiktoken.encoding_for_model("gpt-4o") # 概算に利用 print(len(enc.encode(prompt_text)))
04

注意点:削りすぎは逆効果

「短く=安い」ではありません。品質が落ちると再生成・修正依頼が増え、トータルでは高くなります。

  • 動作を決めている指示(出力形式・禁止事項・参照ルール)は削らない。
  • 曖昧なまま削って解釈が分かれるようなら、短い明示的指示に置き換える。
  • 削減のたびに品質テストを行い、再生成率が上がっていないか確認する。

精簡は毎ターン再送される「固定部分」に最も効きます。可変部分の削減よりも優先度が高いのはこのためです。固定部分が大きい場合は、次の術その3:プロンプトキャッシングと組み合わせると効果が跳ね上がります。

関連リンク

省トークン5術の各ページと、サイト内の関連ページです。

My-Best.AI|AIツール比較・ランキング・おすすめ最新AI情報
Logo