ある会社は、社内規程の文書を検索して回答する RAG のアプリケーションを Amazon Bedrock で作っている。モデルが、検索で取り出した規程の文書に書かれていない内容を、もっともらしく付け足して回答することがあり、社員が誤った手続きを取る事故が起きた。アプリの担当者は、参照元の文書に基づかない応答を検出してブロックする必要がある。この要件に合うフィルタはどれか。
この問題を含む資格の問題は に最終確認しました
ある会社は、社内規程の文書を検索して回答する RAG のアプリケーションを Amazon Bedrock で作っている。モデルが、検索で取り出した規程の文書に書かれていない内容を、もっともらしく付け足して回答することがあり、社員が誤った手続きを取る事故が起きた。アプリの担当者は、参照元の文書に基づかない応答を検出してブロックする必要がある。この要件に合うフィルタはどれか。
この問題を含む資格の問題は に最終確認しました