システムプロンプトや指示文は、会話の毎ターンで全文が再送されます。つまり「短くする」だけで、会話が長いほど累積コストに直結します。このページでは、日本語プロンプトの Before/After 実例と、削減効果の試算を示します。
LLM の API は、会話の全履歴+システムプロンプトを毎回送り直す設計です。1 ターン目だけでなく、2 ターン目以降も同じ前置きを払い続けます。
たとえばシステムプロンプトが 3,000 トークンのチャットボットで 20 ターン対話すると、前置きだけで 3,000 × 20 = 60,000 入力トークンが消費されます。GPT-6 Sol(入力 $2.00/1M、2026年10月時点)でも $0.12。これが 1,500 トークンに半減できれば、以降のすべての対話で半分の料金です。
実際によくあるカスタマーサポート Bot のシステムプロンプトを例に、削るポイントを示します。
「親切で丁寧」が 2 回、「わかりやすく」が 2 回、長い敬語の締め文など、モデルの動作を実際には変えない表現が多数あります。
形式指定を番号付きリストに集約し、重複表現を削除。約 63% 減で、出力形式の要件はすべて保持しています。
| 削る対象 | 例 | 削っても品質に影響しにくい理由 |
|---|---|---|
| 重複する性格指示 | 「親切で丁寧」の繰り返し | 1 回の指示で十分伝わる |
| 冗長な敬語・挨拶 | 「お気軽にお問い合わせください…」の全文指定 | 出力テンプレは短い記号指定で代替可能 |
| 使わない Few-shot 例 | 5 つの例のうち似た 3 つ | 代表的な 1〜2 例で形式は学習できる |
| 曖昧な修飾語 | 「できる限り」「なるべく詳しく」 | 動作を決定していない。max_tokens 等で制御する方が確実 |
削る前に、今のプロンプトが何トークンかを把握します。
「短く=安い」ではありません。品質が落ちると再生成・修正依頼が増え、トータルでは高くなります。
精簡は毎ターン再送される「固定部分」に最も効きます。可変部分の削減よりも優先度が高いのはこのためです。固定部分が大きい場合は、次の術その3:プロンプトキャッシングと組み合わせると効果が跳ね上がります。
省トークン5術の各ページと、サイト内の関連ページです。