Learnify 学習ガイド

BedrockのRAGとGuardrailsの違い:検索・根拠・出力制御を整理

社内資料を参照するAIでも、不適切な助言や個人情報の出力は別に対策が必要です。何を検索するか、何を回答の根拠にするか、何を公開させないかを分けると、構成の役割が見えます。

更新:

RAGは回答へ渡す情報を探す仕組み

RAGは関連資料を取り出し、生成時のコンテキストとして使う考え方です。検索できる資料の品質、言語、絞り込み条件を確認します。検索結果があるだけで、生成されたすべての記述が正しいと判断しないことが大切です。

Guardrailsは異なるリスクごとに制御を選ぶ

禁止トピック、特定語句、機密情報、根拠との整合性には異なる制御があります。要求を分け、対象の入力や応答にどの制御を適用するか考えます。単にプロンプトを強く書くこととは役割が異なります。

検索と公開の間で評価する

必要な資料を取れたかと、その資料に基づいて答えたかを分けて確認します。正しい回答の誤遮断、検索漏れ、待ち時間もテスト対象です。まず関連例題で要求を分類し、選択理由を自分の言葉で説明してみましょう。

役割を比較する

問題の要求を役割と確認事項へ分ける
対象目的確認すること
検索対象の選択どの資料を回答の材料にするか言語・メタデータ・検索品質
根拠の確認回答が渡した資料と整合するか資料との対応と評価用の設問
出力の制御公開できない内容を検出・遮断するか禁止領域・機密情報・誤遮断