RAG(ラグ/Retrieval-Augmented Generation・検索拡張生成)とは、AIが答える前に、自社の文書を検索して「根拠を見てから答える」仕組みです。「社内の規程やマニュアルについて、調べる代わりにAIに聞けるようにしたい」。社内AI導入の相談で、実体として求められているものの多くが、このRAGです。
RAGの導入も、いきなり全社文書を対象にするのは失敗のもとです。本記事では、RAGの仕組みと誤解されやすいポイント、「1部署・1業務・よくある質問」から始める対象の絞り方、質問リスト50問で測る検証設計、費用構造と作り方の選択肢を解説します。
※本記事は2026年8月時点の調査に基づきます。
📥 無料配布中：作る前の整理に使える「MVP開発 5ステップワークシート」
→ ワークシートを無料ダウンロード
1. RAGとは｜「調べてから答えるAI」の仕組み
RAGの動きは3ステップです。
- 検索(Retrieval): 質問を受けると、あらかじめ登録した社内文書(規程・マニュアル・議事録・FAQ等)から関連する箇所を探し出す
- 拡張(Augmented): 見つけた文書の該当箇所を、AIへの指示に添付する
- 生成(Generation): AIが「添付された文書の内容に基づいて」回答を作る
ポイントは、AIが記憶で答えるのではなく、毎回文書を見てから答えることです。これにより、①最新の文書を反映できる(文書を差し替えれば回答も変わる)、②「その情報はどの文書にあったか」の出典を示せる、③文書にないことは「わからない」と答えさせやすい、という業務利用で決定的に重要な性質が手に入ります(仕組みの詳細はAWSの解説が分かりやすい)。
2. よくある誤解｜「学習させる」とRAGの違い
社内AIの相談で最も多い誤解が、「自社データをAIに学習させたい」という表現です。実務で選択肢になるのは多くの場合、学習(モデルの再訓練)ではなくRAGです。
- 学習(ファインチューニング): AIモデル自体を作り変える。費用と専門性が必要で、文書を更新するたびに作り直しはできない。文体や形式の矯正には向くが、「最新の規程を答えさせる」用途には不向き
- RAG: モデルはそのまま、参照する文書だけを差し替える。規程改定があれば文書を更新するだけ。出典も示せる。社内ナレッジのQA用途では、まずこちらが第一候補
この違いを押さえるだけで、開発会社との会話も、既製サービスの選定も、精度の見積もりも一段クリアになります。なお検索精度を高める工夫は現在も進化中です。Anthropicが公開しているContextual Retrievalのような、検索の失敗率を大幅に下げる手法も出てきています。
💬 代表の現場知見（業務ヒアリングの現場から）
経験上、「マニュアルが整備されていない会社ほど、社内AIへの期待が大きい」という皮肉な傾向があります。しかしRAGは魔法ではなく、答えの質の上限は「参照する文書の質」で決まります。文書が古い・散らばっている・人によって言うことが違う状態では、AIも古くて矛盾した答えを返します。RAGのMVPで最初にやるべきは、実はAI選定ではなく「この業務の文書は、人間が読んでも答えにたどり着けるか」の棚卸しです。逆に言えば、文書がまともな1業務さえあれば、RAGは小さく始められます。
3. 対象の絞り方｜1部署・1業務・よくある質問から
RAGのMVPは、「1部署・1業務・よくある質問」の三点セットで対象を絞ります(当メディアの整理)。
- 1部署: 最初のユーザーは1部署(できれば協力的な部署)に限定。全社公開は精度と運用が安定してから
- 1業務: 「総務への問い合わせ」ではなく「経費精算の質問」。範囲が狭いほど文書の棚卸しが現実的になり、精度も測りやすい
- よくある質問: 過去の問い合わせ記録から頻出質問を20〜50個抽出。これが後述の検証セットにもなる
対象を絞る実利は3つあります。①準備する文書が数点〜数十点で済む(全文書の整備を待たなくてよい)、②「答えられるべき質問」が明確になる(検証できる)、③失敗しても影響が小さい(部署内で「まだ試験運用」と共有できる)。AIエージェントの切り出し3条件と同じ発想で、RAGでは「文書がまともに存在する業務」が第一条件になります。
4. 検証設計｜質問リスト50問で採点する
RAGの検証は、感想戦にしないことが肝心です。「なんか良い感じ」ではなく、採点できる形にします。
手順は4つです。
- 質問リストを作る: 頻出質問30問+意地悪な質問10問(文書にない質問・古い規程を前提にした質問)+曖昧な質問10問。「文書にない質問」を必ず混ぜるのがコツです
- 模範解答と出典を用意する: 各質問に「正解はこの文書のこの箇所」を紐づける。この作業自体が文書の不備の発見になります
- 採点する: ◯(正答+正しい出典)/△(概ね正しいが不完全)/×(誤答)/「わからない」と答えられたかを記録
- 合格ラインと照合する: 例えば「◯が8割・×がゼロ(誤答するくらいなら”わからない”と言う)」など、用途に応じたラインを測定前に決めておく
特に重視すべきは×(誤答)の少なさです。社内QAでは「10問に1問間違える有能風のAI」より「3問に1問は”わからない、担当者へ”と言う正直なAI」の方が、実務では信頼されます。誤答は一度広まると回収が難しく、ツール全体の信用を失わせるからです。この「わからないと言えた率」は、エージェントMVPの人間介入率と同じ思想の指標です。
🧪 当メディアで実際に試した結果(2026年8月)
この検証設計を、当メディアの記事41本(約37万字)を「社内文書」に見立てて実際に回してみました。最も素朴なキーワード一致だけの検索では、正解の文書を上位3件に出せたのは15問中9問。外した原因の1位は言い換え(「医療系アプリ」で聞くと「ヘルスケア」の文書を見つけられない)ではなく、「FAQやまとめなど、どの質問にもそこそこ一致する章」が正解を押しのけることでした。さらに「文書にない質問」5問では、5問すべてで無関係な文書がそれらしい一致度で上位に並び、一致度の高低だけでは「わからない」と答えるべき質問を見分けられませんでした。「わからないと言えるAI」は自然にはできず、設計が要る。これが手を動かして得た実感です。※最も素朴な検索方式での一例で、市販サービスの検索精度はこれより高いのが普通です
5. 費用構造と作り方の選択肢
費用の構造はAIエージェントのMVP開発で解説した「作る費用と回す費用」の2層がそのまま当てはまります。RAG特有なのは、作る費用の中で「文書の整備・投入」の比重が大きいことです。
作り方は3つの選択肢があります。
- 既製サービスで試す(最小): Google NotebookLMのような「文書をアップロードして質問する」サービスや、ChatGPT/Claudeの法人プランのナレッジ機能で、「うちの文書でどこまで答えられるか」の手応えを数日で確認できます。1部署の試験運用ならここで十分なことも多い
- API+既製部品で自作(中間): 検索の挙動や画面を自社要件に合わせたい場合。Claude Codeのようなエージェント型ツールで試作する選択肢もここに含まれます
- 外注(本格): 既存の社内システム・権限管理(誰がどの文書を見られるか)との統合が必要な場合。権限管理はRAG導入の隠れた難所で、ここが要件に入るなら専門家との協働が現実的です。見積もりチェックリストで検証工程と文書更新の運用を必ず確認してください
進め方の定石は1→(必要なら)2→3です。既製サービスの試験運用で「文書の質」と「よくある質問」が整理されていれば、外注する場合も要件が明確になり、見積もりのブレが小さくなります。
🤝 自社の文書でRAGが成立するか知りたい方へ：文書の棚卸しから検証設計まで、無料で壁打ちできます
→ MVP開発 無料相談はこちら
6. RAGのMVP開発に関するFAQ
Q1. RAGとチャットボットは何が違うのですか？
従来型のチャットボット(シナリオ型)は、想定問答を人間が1問ずつ登録します。RAGは文書を登録すれば、想定していない聞かれ方にも文書を検索して答えます。想定問答のメンテナンス地獄から抜けられるのが実務上の利点です。ただし答えの質は文書の質に依存します(第2章)。
Q2. 費用はどのくらいかかりますか？
既製サービスでの試験運用なら、月数千円〜数万円のプラン費用で始められます。自社システムとの統合や権限管理まで含む本格構築は、範囲次第で大きく変わります。いずれの場合も、費用の前に「対象業務の文書がまともに存在するか」が投資判断の先行指標です。
Q3. 精度はどのくらい出ますか？
対象を絞り、文書が整備されていれば、頻出質問への正答率は実用水準に届くことが多い、というのが一般的な傾向です。ただし精度は文書の質・質問の性質・実装方法に強く依存するため、自社の質問リスト50問で採点する(第4章)以外に、信頼できる数字はありません。
Q4. 社内文書を渡して安全ですか？
利用サービスのデータ取り扱い(学習利用の有無・保存場所・アクセス権限)の確認が前提です。法人向けプランでは学習利用しない設定が標準的になっています。加えて重要なのが社内側の権限設計です。「人事評価の文書が全社員から検索できる」ような事故は、AIではなく設計の問題です。試験運用は機密度の低い文書から始めてください。
Q5. 文書がバラバラで整備されていないのですが。
その状態で全社RAGを作るのは時期尚早です。ただし、「1業務だけなら文書を整えられる」なら始められます。むしろRAGのMVPは、質問リストと模範解答を作る過程で文書の不備が可視化されるため、ナレッジ整備の起爆剤として機能します。整備を待つのではなく、整備を兼ねて小さく始めるのが実務的です。
Q6. 精度が上がらないときは何を疑えばいいですか？
順番に3つです。①文書側: 答えがそもそも文書に書かれていない、古い版が混ざっている(最頻出の原因)。②検索側: 関連文書が見つけられていない(文書の分割方法や検索設定の調整で改善)。③質問側: 質問が曖昧すぎる(聞き方のガイドをユーザーに示す)。①が原因のケースが体感で最も多く、AIの設定をいじる前に文書を疑うのが近道です。
📥 まず業務の整理から始める方へ
→ MVP開発 5ステップワークシートを無料ダウンロード
まとめ
- RAGは「調べてから答えるAI」。文書の差し替えで回答が更新でき、出典を示せるのが業務利用の決め手
- 「学習させたい」という要望の実体は多くの場合RAG。モデルを作り変えるのではなく、参照文書を差し替える方式
- MVPは「1部署・1業務・よくある質問」の三点セットで絞る。第一条件は「文書がまともに存在する業務」
- 検証は質問リスト50問で採点する。文書にない質問を混ぜ、「誤答の少なさ」と「わからないと言えた率」を重視
- 作り方は既製サービス→API自作→外注の順に検討。答えの質の上限は常に文書の質が決める
AI活用全般の考え方はAIエージェントのMVP開発を、MVP開発の基本はMVP開発の進め方を参照してください。
🤝 MVP開発 無料相談：文書の棚卸しから検証設計まで、実務経験から無料で壁打ちできます
→ 無料相談はこちら
この記事を書いた人
執筆・監修: 合同会社Scoop 代表 ゆう
Web制作ディレクション7年・マーケティング支援6年で、集客から成約までを一貫して設計。近年はRailsとClaude Codeを活用したAI駆動開発（3年）に注力し、MVP開発とマーケティングを掛け合わせた事業支援を得意とする。建物管理・アート・人材など幅広い業界の実務に携わる。
コメント