トークン節約 術その4/モデルの使い分け

モデルの使い分け|タスクの級分けでコストを 1/7 にする

モデルの単価差は最大で十数倍。単純な分類・要約・抽出に最上位モデルを使うのは、金槌でビスを打つようなものです。タスクを「級分け」して適正なモデルを割り当てるだけで、品質を保ったまま大幅な削減ができます。

01

仕組み:単価差は最大 15 倍

2026年10月時点の入力単価で比較すると、違いは歴然です。

モデル入力 $/1M出力 $/1M向いている仕事
GPT-6 Sol2.0010.00日常的な生成・分類・要約・変換
GPT-6 Pro (Astra)10.0050.00難しい推論・長文の統合判断
GPT-5.5 Pro30.00180.00高度な分析・最重要の最終判断
Gemini 3.6 Flash1.507.50大量バッチの軽処理
DeepSeek V4-Flash0.22(オフピーク)0.66コスト最優先の大量処理
02

実例:1 日 1,000 件の問い合わせ分類

入力 500 トークン/出力 100 トークンの分類タスクを、1 日 1,000 件処理する場合(30 日稼働)。

運用1 日のコスト30 日削減率
すべて GPT-5.5 Pro$33.00$990.00—
級分け:90% を GPT-6 Sol/10% を GPT-5.5 Pro$5.10$153.00−85%
# 級分けの内訳(1日あたり) GPT-6 Sol ×900件: 入力 500tk×900/1M×$2.00 = $0.90 出力 100tk×900/1M×$10.00 = $0.90 GPT-5.5 Pro ×100件(難案件のみ): 入力 500tk×100/1M×$30.00 = $1.50 出力 100tk×100/1M×$180.00 = $1.80 合計 $5.10/日(全件最上位なら $33.00)
−85%級分け導入での削減率
10%上位モデルに残す案件の割合
03

やり方:級分けの設計パターン

難易度の判定を誰がやるか、が設計のポイントです。

  • ルールベース:カテゴリ・文字数・言語など機械条件で振り分け(最も安く、最も予測可能)。
  • ルータープロンプト:安価なモデルに「このタスクの難易度を 1〜3 で判定させ、3 だけ上位へ」。
  • 2 段生成:安いモデルで下書き→信頼度スコアが低い回答だけ上位モデルで再生成。下書きが外れた分だけ直す発想。
  • 勾配処理:「抽出→下書き→推論」のような多段パイプラインでは、前段ほど安いモデルに。
階層によっては、級分けの判定自体をモデルにさせるとその判定コストが加算されます。ルールで済む案件はルールが最安です。
04

注意点

  • 品質が売上・信頼に直結する処理(法務・医療・最終判断)は級分け対象から外す。
  • 級分けの前に、両モデルの出力を 50〜100 件比較する評価セットを作る。
  • 安いモデルは指示追従性が弱い場合がある。出力形式は構造化出力(術その5)で固定する。

関連リンク

省トークン5術の各ページと、サイト内の関連ページです。

My-Best.AI|AIツール比較・ランキング・おすすめ最新AI情報
Logo