Learnify 学習ガイド
BedrockのRAGとGuardrailsの違い:検索・根拠・出力制御を整理
社内資料を参照するAIでも、不適切な助言や個人情報の出力は別に対策が必要です。何を検索するか、何を回答の根拠にするか、何を公開させないかを分けると、構成の役割が見えます。
更新:
RAGは回答へ渡す情報を探す仕組み
RAGは関連資料を取り出し、生成時のコンテキストとして使う考え方です。検索できる資料の品質、言語、絞り込み条件を確認します。検索結果があるだけで、生成されたすべての記述が正しいと判断しないことが大切です。
Guardrailsは異なるリスクごとに制御を選ぶ
禁止トピック、特定語句、機密情報、根拠との整合性には異なる制御があります。要求を分け、対象の入力や応答にどの制御を適用するか考えます。単にプロンプトを強く書くこととは役割が異なります。
検索と公開の間で評価する
必要な資料を取れたかと、その資料に基づいて答えたかを分けて確認します。正しい回答の誤遮断、検索漏れ、待ち時間もテスト対象です。まず関連例題で要求を分類し、選択理由を自分の言葉で説明してみましょう。
役割を比較する
| 対象 | 目的 | 確認すること |
|---|---|---|
| 検索対象の選択 | どの資料を回答の材料にするか | 言語・メタデータ・検索品質 |
| 根拠の確認 | 回答が渡した資料と整合するか | 資料との対応と評価用の設問 |
| 出力の制御 | 公開できない内容を検出・遮断するか | 禁止領域・機密情報・誤遮断 |