RAGのチャンクを設計する：長さより検索後に意味が残るかを見る

文書の意味の構造を見る

見出し、手順、表、例外条件がどこにあるかを確認します。表のセルだけを取り出すと、列名や単位が失われることがあります。段落を機械的に切る前に、質問に答えるために必要なまとまりを考えます。

製品が提供する分割方式はそれぞれ条件があるため、公式仕様で確認します。同じ文字数でも言語や文書形式によって情報量は異なります。特定のサイズを普遍的な正解と扱わないようにします。

識別情報を断片に残す

文書ID、見出し、版、適用日、読み取り範囲などを、検索で利用できる形にします。断片だけでは新旧や対象が分からない場合、その後の生成で補ってしまう危険があります。

重複した断片を大量に返すと、異なる根拠が揃ったように見えて、実際は同じ文章を繰り返していることがあります。上位結果の件数だけでなく、必要な根拠の種類が揃ったかを確認します。

評価する質問を先に選ぶ

単純な単語検索、例外を含む質問、複数段落を必要とする質問を用意します。どの断片が得られたら答えられるかを確認し、取得漏れと余分な情報を分けます。分割方式の変更後は、検索の指標だけでなく最終回答への影響も確認します。

取得漏れと情報過多を別に診断する

正しい断片が上位結果へ入らない場合と、入っているのに生成で使えない場合は、改善先が違います。人が正しい断片を選んで渡した確認を行うと、分割や検索の問題と、生成側の条件解釈を切り分けられます。大きなチャンクへ変えるだけで両方を解決しようとせず、どの情報の関係が欠けているかを確認してください。

表や見出しの扱いも、実際の質問に合わせて試します。金額だけの質問と、対象外条件を含む質問では必要な範囲が異なります。重なりを増やすと条件を拾いやすくなる場合がありますが、同じ根拠が繰り返される負担もあります。取得件数、渡す総量、回答に必要な根拠の被覆を別々に見て、単一の分割サイズを目的にしないようにします。

具体例で考える

架空の規程で、上限金額は表、対象外条件は表の直後の段落にあります。

弱い断片：金額のセルだけ。
必要な文脈：表の見出し、単位、対象外条件。
評価質問：対象外の利用者にも同じ上限が適用されるか。

通常の金額質問だけなら問題が見えません。例外を問う入力で確認することで、分割によって判断条件が切り離されたことを検出できます。

確認課題と合格の目安

一つの資料に、単純質問と例外質問を作り、必要な断片を手で選んでください。

• 単位や見出しを失っていない。
• 断片の版と対象を追える。
• 同じ根拠の重複と異なる根拠を区別できる。