LearnifyAI-103 · 日本語の問題解説
Azure AIで個人情報を検出する：PIIとPrompt Shieldsの違い
Learnify学習ノート · 更新：
例題
Contoso のサポートエージェントが製品ドキュメントを取得します。 顧客名、住所、またはアカウント識別子を含む文書が誤ってアップロードされている可能性があります。 アクセス制御、ドキュメント/OCR Prompt Shields、および画像安全制御はすでに設定されています。 アプリケーションは、これらの PII エンティティを検出し、応答がリリースされる前にそれらを削除またはブロックするために、どの機能を使用すべきでしょうか？
- A：自己傷害コンテンツのフィルタリング
- B：Prompt Shields のみ
- C：個人識別情報（PII）検出、返却された削除/ブロック決定の適用執行
- D：暴力コンテンツのフィルタリング
正解と元の解説
正解：C
C：PII Detection で氏名・住所・口座識別子などを検出し、アプリでマスキングまたは遮断します。Prompt Shields は主にプロンプト攻撃用で、自傷・暴力分類も PII の代替ではありません。検出結果を得るだけでなく、出力制御へ接続する必要があります。
見分けるポイント
要求を「何を守るか」に分けます。この例題で守りたいのは氏名や住所などの個人情報です。モデルへの不正な指示を見つける仕組みと、個人情報の文字列を見つける仕組みを区別すると、既に設定済みの対策に惑わされにくくなります。
考える順序
- 対象データが入力文書か、生成された応答かを確認する。
- 検出結果を受けて、マスキング・遮断・人による確認のどれを行うか決める。
- アクセス制御があっても、閲覧できる文書に個人情報が混在する場合を考える。