社内文書を検索させているのに、欲しい一節が出てこない。逆に、関係のない長い文章だけが返ってくる。原因は大きく2つに分かれます。分割の粒度が合っていないか、候補の並べ方が合っていないかです。Pinecone の解説と DeepLearning.AI の RAG 講座で扱われている考え方に沿って、確認する順番を整理します。
ステップ1：いまの分割単位を書き出す
最初に、文書がどの単位で切られているかを一覧にします。文字数かトークン数、区切り方、重複の有無、分割後に見出しを付けているかどうか。この4点を書くだけで、見直すべき箇所が絞れます。
合わせて、検索で外れた質問を5つ集めます。外れた質問は、分割の問題か並べ方の問題かを切り分ける材料になります。
ステップ2：固定長で基準を取る
Pinecone の解説は、固定長分割を最初に試すべき出発点と位置づけています。トークン数を決めて機械的に切る方式で、実装が単純なぶん、比較の基準になります。この基準を取らずに高度な方式へ進むと、改善したかどうかを判断できません。
切った結果を数件だけ目で読みます。文の途中で切れている、表が分断されている、といった状態が分かります。
ステップ3：構造に沿った分割へ移す
文書に見出しや段落の構造があるなら、その単位で切る方式へ移します。Pinecone はこれを内容認識分割と呼び、文書の構造を手がかりに意味のあるチャンクを作る方法として説明しています。
区切り文字を優先順位つきで試す再帰的な分割も有効です。LangChain の RecursiveCharacterTextSplitter は、段落（空行）、改行、空白、文字の順に区切りを試します。特定の1文字で切る方式より崩れにくく、構造が不揃いな文書にも使えます。
| 方式 | 向く文書 | 崩れやすい点 |
|---|---|---|
| 固定長 | 体裁が不揃い、まず基準を取る段階 | 文の途中で切れる |
| 内容認識 | 見出し・段落・表が整った文書 | 構造が崩れた文書では効きにくい |
| 再帰的 | 長さも構造もばらつく文書 | 区切りの優先順位の調整が要る |
ステップ4：候補を広げ、並べ替えで絞る
検索の段階では、意味の近さだけでなくキーワードの一致も使う併用型の検索が有効です。型番や固有名詞は、意味の近さだけでは取りこぼしやすくなります。候補を多めに集めたうえで、質問と候補の組を直接評価する並べ替え（リランキング）をかけ、上位だけをモデルに渡します。
並べ替えは、候補に入っているものの順位を直す処理です。候補に入っていない文書は救えません。検索で広げ、並べ替えで絞る、という役割の違いを意識して設定します。
ステップ5：同じ質問セットで前後を比べる
変更したら、ステップ1で集めた質問を含む固定の質問セットで比べます。見るのは、根拠になる一節が上位に入ったか、回答が根拠から外れていないか、回答が長くなりすぎていないかの3点です。
分割と並べ替えは相互に影響します。分割を変えると候補の性質も変わるため、片方ずつ変えて比較します。同時に変えると、どちらが効いたのか分からなくなります。
つまずきポイント
- 小さく切れば当たると考える：当たりやすくなっても、意味が通らない断片では回答に使えません。
- 表をそのまま分割する：行と見出しの対応が切れます。表は1単位として扱うか、行ごとに見出しを複製します。
- 並べ替えだけで解決しようとする：候補の外にある文書は対象になりません。
FAQ
Q. チャンクは小さくしたほうが検索で当たりますか？
A. 当たりやすくはなりますが、渡された側で意味が通らない断片になり、回答の質は下がります。意味のまとまりを優先します。
Q. 並べ替えだけを入れれば精度は上がりますか？
A. 候補に入っていなければ並べ替えでは救えません。候補を集める段階と、順位を付ける段階を分けて確認します。
あわせて使いたいツール
出典
出典：Pinecone「LLMアプリケーションのためのチャンキング戦略」（原題 Chunking Strategies for LLM Applications、2025年6月28日更新）、および DeepLearning.AI「Retrieval Augmented Generation (RAG)」講座（2026年11月13日参照）。
関連ガイド
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。