検索した文書を全部1つの応答に詰め込むと、入力が長くなり、応答も重くなります。Learn Prompting が紹介する Speculative RAG は、束ごとの下書きと最良の1つを選ぶ検証に分ける2段の枠組みです。ここでは、社内のナレッジ検索に置き換えた手順を5つに分けます。
ステップ1：詰め込む形の重さを確かめる
Learn Prompting の比較では、標準的な検索拡張生成（RAG）は、取り出した文書をすべて応答に使うため文脈が長くなり、遅さと効率の悪さが弱点とされています。手元でも、検索結果を丸ごと渡す形で応答の遅さや読みにくさを感じたら、この方式の出番です。基本の仕組みはRAGの頁に整理しています。
ステップ2：検索文書を束に分ける
取り出した文書を、観点の違ういくつかの束に分けます。論文の流れでは多視点サンプリングと呼ばれ、Learn Prompting の説明でも、束ごとに異なる視点の材料を与えることが品質の下地になるとされています。たとえば規程、過去の問い合わせ対応、製品仕様というように、出所の性質ごとに束ねるのが手早い分け方です。
ステップ3：小型の下書き役に束ごと答えを作らせる
各束に対して、小型の下書き役（RAG Drafter）が1通ずつの答え草案を作ります。束が小さいほど1回ごとの入力が短く済むため、全体を1回で処理する形に比べ、1通あたりの負担が下がります。社内なら、束ごとに「この束だけを根拠に、問いに答える文を書いてください」と依頼する形です。エージェント側に判断を任せる発展形はエージェント型 RAGの頁にあります。
ステップ4：大型の検査役に最良の1つを選ばせる
でき上がった草案を、大型で汎用の検査役（RAG Verifier）に渡し、最良の1つを選ばせます。Learn Prompting の説明では、この構成は汎用モデルの追加の調整を必要としない点が利点とされ、草案を作る分業のおかげで、速さと品質を両立しやすいとされています。選ばせるときは「根拠の束と選んだ理由を添えて」と依頼するのが、後工程を楽にする書き方です。
ステップ5：採用した草案の根拠を残す
採用された草案には、根拠となった束の出所を必ず記録します。選ばれなかった草案も捨てずに残すと、後日、条件が変わったときの再利用や、答えの傾向の点検に使えます。束の分け方、草案の数、選択の基準を合わせて記録しておくと、次に同じ問いが来たときの再現が速くなります。
FAQ
Q. 通常の RAG と何が違いますか？
A. 取り出した文書を1回の応答に詰め込む代わりに、束ごとの草案を作ってから選ぶ2段になります。Learn Prompting の比較でも、速さと品質の両立がこの方式の特徴として挙げられています。
Q. モデルを2種類用意するのは大変ですか？
A. 下書き役は小型でよいため、コストの重心は検査役の1回に集まります。道具を増やさない代替として、検索結果を3束に分けて草案を作らせ、最後に1つ選ばせる手順だけでも、考え方の効果を確かめられます。
あわせて使いたいツール
本記事の手順を実際に回すときに、候補になるツールを挙げます。いずれも無料から試せる範囲があり、料金や機能は各サービスの公式情報で確認してください。
出典
出典：Learn Prompting「Speculative RAG：下書きと検証を分ける」（原題 Speculative RAG、2025年3月2日更新）。原論文は arXiv:2407.08223「Speculative RAG: Enhancing Retrieval Augmented Generation through Drafting」（2024年7月公開）。
関連ガイド
同じ時期に公開した実務ガイドと、用語の定義ページです。手順の前提が分からない場合は、用語ページから確認してください。コピーして使える依頼文が欲しいときは、プロンプト集も参照してください。
- 枝分かれさせて比べる：Tree of Thoughts の5ステップ
- 身のまわりの雑務を預ける：AI 自動化の5ステップ
- RAG（用語辞典）
- AI用語辞典（五十音順の一覧）
- はじめての LLM 活用（学習ルート）
- ガイド一覧（実務手順をまとめて読む）
- AIツール一覧（道具から探す）
- 比較記事一覧（料金と機能で比べる）
- レビュー一覧（使った記録を読む）
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。