プロンプト管理とGuardrails：出力形式と安全性の役割分担

例題

ある企業が、Amazon Bedrock を使用して複数の事業部門向けに企業文書を要約する内部生成型 AI（GenAI）アシスタントを開発しています。 GenAIアシスタントは、文書要約、ビジネスリスクの分類、レビュー対象としてフラグ付けされた用語を含む、一貫した形式で応答を生成しなければなりません。 GenAIアシスタントは、法務、人事、財務など、各ユーザーの事業部門ごとに応答のトーンを調整しなければなりません。 GenAIアシスタントは、ヘイトスピーチや不適切なトピック、個人の健康情報などの機密情報をブロックしなければなりません。 当社は、事業部門およびチーム全体でプロンプトのバリエーションを一元管理するためのソリューションを必要としています。 当社は、ポストプロセッシングロジックに関する継続的なオーケストレーション作業および保守を最小限に抑えたいと考えています。 同社は、GenAIアシスタントのコンテンツモデレーション基準を時間とともに調整できる機能も求めています。 どのソリューションが、これらの要件を最小の保守負荷で満たすでしょうか？

• A：Amazon Bedrock プロンプト管理を使用して、再利用可能なテンプレートとビジネスユニット固有の プロンプト バリアントを構成してください。 カテゴリフィルターと機密用語リストを含むAmazon Bedrockガードレールを適用して、禁止コンテンツをブロックしてください。
• B：Amazon Bedrock プロンプト管理を使用して、ベーステンプレートを定義してください。 システム プロンプト 変数を使用して、ビジネスユニット固有のトーンを強制します。 Amazon Bedrock ガードレールを設定し、オーディエンスベースの閾値チューニングを適用します。 内部管理 API を使用してガードレールを管理してください。
• C：Amazon Bedrock をビジネスユニットベースの命令注入で、API 呼び出しに使用してください。 レスポンスの書式設定ルールを Amazon DynamoDB に保存してください。 AWS のステップ関数を使用して、応答を検証してください。 GenAIアシスタントが応答を生成した後、Amazon Comprehendを使用してコンテンツフィルタを適用してください。
• D：Amazon Bedrock を、Amazon DynamoDB に保存されているカスタム プロンプト テンプレートと共に使用してください。 ビジネスユニット固有の プロンプト を選択するために、AWS Lambda 関数を 1 つ作成してください。 Amazon Comprehend を呼び出す第二の Lambda 関数を作成し、レスポンスから禁止されたコンテンツをフィルタリングしてください。

正解と元の解説

正解：A

A：テンプレートを集中管理し、Guardrails で有害内容・禁止話題・機密情報を制御します。ただし指示だけで厳密な schema は保証されず、PHI を単語リストだけで網羅できません。必要な PII・正規表現設定と検証を加えます。

見分けるポイント

文章の形式やトーンをそろえる指示と、公開してはいけない内容の制御は別の仕事です。プロンプトを一元管理するだけで安全性をすべて担保したり、単語リストだけで機密情報を網羅したりしないように、要求を分解して読みます。

考える順序

1. 部署ごとの表現の違いは、プロンプトの管理対象として整理する。
2. 有害内容、禁止話題、個人情報は、それぞれの検出や制御を検討する。
3. 厳密な出力構造が必要なら、生成後の検証が不要だと決めつけない。