RAG は、LLM が答える前に外部の資料を検索し、その内容を根拠として回答を作る仕組みです。社内文書や最新情報を扱えるようにする、実務で最も使われる構成のひとつです。
RAG は、LLM が答える前に外部の資料を検索し、その内容を根拠として回答を作る仕組みです。社内文書や最新情報を扱えるようにする、実務で最も使われる構成のひとつです。
RAG(Retrieval-Augmented Generation:検索拡張生成)は、LLMが回答する前に外部のデータベースや社内文書を検索し、その結果をもとに回答を生成する仕組みです。
出典:my-best.ai 用語辞典「RAG(検索拡張生成)」(https://my-best.ai/ai-dictionary/rag/)
PDF やマニュアルを数百字程度の塊(チャンク)に分け、それぞれを埋め込みベクトルに変換してベクトルデータベースに登録します。この分割設計が検索精度の土台になります。
質問文も同じ変換器でベクトル化し、意味が近いチャンクを上位 K 件取得します。必要に応じてキーワード検索と組み合わせるハイブリッド構成も使われます。
取得したチャンクをプロンプト内に「参照資料」として挿入し、「資料の範囲で答え、不明なら不明と述べる」よう指示したうえで LLM に生成させます。
RAG は 2020 年、Facebook AI(現 Meta AI)の Lewis らが発表した「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」で提案された手法です。知識をモデルの重みに閉じ込めるのではなく、外部から検索して補う点が特徴で、LLM の業務利用が広がるにつれ標準的な構成になりました。
規程・マニュアルを検索して回答させる
過去の対応履歴を根拠に返信案を作る
該当条項を引用させ、確認の手間を減らす
複数資料を読み込ませて要点を比較する
用語同士は相互リンクされています。未掲載の用語は用語一覧の該当項目へリンクします。
実務でそのまま使えるプロンプト例です。コピーして〔 〕内を置き換えてください。同じカードはプロンプト集にも掲載されています。
根拠外の推測を防ぐ基本の型
あなたは社内規程の案内担当です。以下の【資料】だけを根拠に回答してください。 ・資料に書かれていないことは「資料に記載がありません」と答える ・回答には引用元の見出しを添える ・推測が必要な場合は「推測」と明記する 【資料】 (検索で取得したテキスト) 【質問】 (ユーザーの質問)
あいまいな質問を検索に向く形に変換する
ユーザーの質問:「(例:経費ってどう申請するの?)」 この質問で社内文書を検索するため、検索クエリを 5 パターン生成してください。 条件:専門用語を含む/言い換えを含む/想定される同義語を含む。各クエリは 30 字以内。
回答前に「答えられるか」を確認させる
以下の【資料】で【質問】に答えるのに十分か判定してください。 出力:判定(十分/不十分)/理由 2 行/不足している情報/追加で検索すべきキーワード 3 つ。 【資料】(テキスト) 【質問】(質問文)
確認できる形に整える
以下の回答を、読み手が根拠をたどれる形に整形してください。 ・結論を先に 1 文 ・根拠は〔資料名 / 見出し〕の形式で該当箇所ごとに添える ・根拠が無い記述は削除し、削除箇所を一覧で示す (ここに回答文)
検索精度を上げる前処理
以下の文書を、検索に使う 300 字程度の単位に分割してください。 条件:見出しを各チャンクの先頭に残す/表は行単位で意味が通るよう保つ/各チャンクに 20 字程度の見出しを付ける。 (ここに文書)
上位 K 件の質を上げる
質問と、検索で取得した候補を提示します。各候補について 0〜10 点の関連度を付け、理由を 1 行で述べてください。回答に使うべき上位 3 件だけを最後に列挙してください。 【質問】(質問文) 【候補】(候補テキストを番号付きで)
定義・出典の記述は一次資料に基づきます。リンク先の内容は公開時点のものです。
RAG は「検索してから生成する」構成で、LLM に社内知識と最新情報を与える最も practical な方法です。効果を決めるのはモデルではなく検索の設計であり、チャンク・索引・指示文をセットで調整します。