IT用語
質問に関係する文書を検索してAIに渡し、その内容をもとに回答させる仕組み。社内文書を使った回答などに使う。
- 別名・略称
- 検索拡張生成
RAG（Retrieval-Augmented Generation：検索拡張生成）は、質問に関係する文書やデータを検索で探し出し、その内容を LLM に渡して回答させる仕組みです。
なぜ使うのか
LLM は、学習したときのデータにもとづいて回答するため、新しい情報や社内の資料の内容は知りません。RAG を使うと、モデルを学習し直さなくても、最新の情報や社内の文書にもとづいた回答ができるようになります。回答の根拠になった文書を示せるため、内容を確かめやすくなる利点もあります。
仕組みの流れ
- 文書を細かく分け、検索しやすい形（ベクトルなど）にして保存しておく
- 質問を受けたら、関係する文書の断片を検索する
- 見つかった内容と質問をまとめて LLM に渡し、回答を作らせる
注意点
- 検索で関係のない文書が見つかると、回答の質が下がる
- 検索の対象にする文書に、閲覧の権限がない人に見せてはいけない情報が含まれていないかに注意する（アクセス制御）
- 検索の対象の文書に隠された指示で AI を操る、間接的な プロンプトインジェクション のリスクがある
