この記事は中小企業のAI導入の始め方の各論です。社内の規程やマニュアルを生成AIに答えさせたい会社に向けて書いています。

RAGとは：生成AIに社内資料を調べさせてから答えさせる仕組み

RAG（Retrieval-Augmented Generation、検索拡張生成）とは、生成AIが答える前に社内資料などを検索し、見つけた内容を根拠にして回答させる仕組みです。生成AIが学習していない自社の情報でも、資料に書いてあれば答えられるようになります。

生成AIは、学習していない社内規定のような情報には答えられません。IPAは、RAGを「生成AIが知らない情報を自分で検索して知識を補う仕組み」と説明し、自社の社内情報に即した回答を得られるようになるとしています（IPA「AI利用者のためのセキュリティ豆知識」、2026-10-12取得）。

RAGは「AIに覚えさせる」のではなく「答える前に資料を見せる」仕組みです。 資料を差し替えれば、AIの答えもすぐに変わります。

RAGはどう動くのか？検索・追加・生成の3段階

RAGの動きは、次の3段階です。

  1. 検索する：質問に関係する部分を、登録した資料の中から探します。資料はあらかじめ、意味で探せる形（ベクトル）にしてデータベースに入れておきます
  2. 質問に付け加える：見つけた資料の文章を、元の質問に添えて生成AIに渡します
  3. 資料をもとに答える：生成AIは、渡された資料を根拠に回答を作ります。どの資料のどこを使ったかを示すこともできます

Amazon Web Services（AWS）は、RAGを、回答を作る前に学習データ以外の信頼できる知識ベースを参照させる仕組みとし、モデルを再トレーニングせずに組織の内部ナレッジに広げられると説明しています（AWS「RAG とは何ですか?」、2026-10-12取得）。

RAGの3段階。資料を検索する、質問に付け加える、資料をもとに答える
生成AIに渡す前に、関係する資料を探して添えるのがRAGです。

生成AIでRAGを使うメリットは？

生成AIでRAGを使うメリットは、次の3つです。

メリット 内容
誤った回答を減らせる 事実を質問と一緒に渡すので、もっともらしい誤り（ハルシネーション）を減らせる
根拠を確かめられる 回答に出典を付けられるので、人が元の資料で確かめられる
資料の更新がすぐ反映される AIを学習し直さなくても、資料を入れ替えれば新しい内容で答える

Google Cloudは、事実をプロンプトの一部として渡すことでハルシネーションを軽減できるとしています（Google Cloud「検索拡張生成（RAG）とは」、2026-10-12取得）。国の「AI事業者ガイドライン（第1.2版）」も、RAGの活用で、ハルシネーションの抑制や根拠の透明性の向上が期待されると書いています（総務省・経済産業省「AI事業者ガイドライン（第1.2版）」、2026-10-12取得）。

ただし、誤りがなくなるわけではありません。生成AIそのものの注意点は生成AIとはで説明しています。

RAGとファインチューニングの違いは？

ファインチューニングは、追加のデータでAIモデルそのものを学習し直す方法です。RAGはモデルを変えず、答えるたびに資料を見せます。

項目 RAG ファインチューニング
やること 答える前に資料を検索して渡す 追加のデータでモデルを学習し直す
新しい資料の反映 資料を入れ替えればすぐ 学習し直しが必要
出典の表示 できる できない
準備すること 資料を整理して登録する 学習用のデータを用意して学習させる

AWSは、社内文書を参照する質疑応答の仕組みを作るなら、RAGから始めることを勧めています。RAGは最新の文書を数分で取り込める一方、ファインチューニングしたモデルは回答に出典を示さないと説明しています（AWS「取得拡張生成と微調整の比較」、2026-10-12取得）。中小企業が社内の資料で答えさせたいなら、まずRAGの形で十分です。

中小企業がRAGを始める方法は？開発しないで使える道具

RAGは、自社でシステムを作らなくても、今あるサービスで試せます。Coadexが勧める順番は次のとおりです。

  1. 資料を指定して答えさせるサービスで試す：Googleの「Gemini Notebook」（旧NotebookLM）は、アップロードした資料を使って質問に答え、確かめられるよう引用元を示します。アップロードしたデータはモデルの学習に使われないとしています（Google Workspace「Gemini Notebook」、2026-10-12取得）
  2. 社内のファイルやメールを参照するサービスを使う：Microsoft 365 Copilot（現在の名称は Microsoft Copilot）は、Microsoft Graph を通じて組織のメールやファイルを参照して答えます。表示するのは、その社員が見る権限を持つデータだけです（Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」、2026-10-12取得）
  3. 社内向けの仕組みを作る：1・2で効果を確かめてから、社内チャットボットのように自社の仕組みとして作るかを決めます

Gemini Notebookで会議の録音を資料にして議事録を作る手順はNotebookLMで議事録を作る方法で紹介しています。資料を調べるだけでなく、作業まで進めさせたい場合はAIエージェントとはを参考にしてください。

RAGの注意点とは：資料の質・閲覧権限・外から来た文書

RAGの答えは、検索した資料の質で決まります。注意点は3つです。

RAGの注意点3つ。古い資料を外す、見せる人を分ける、外の文書を混ぜない
RAGの答えの質は、入れる資料の整理で決まります。

AI事業者ガイドラインは、RAGを使うと回答が似通いやすくなるため、多様さや独創性が必要な業務には向かない場合があるとも書いています。企画のアイデア出しより、規程・手順・過去の回答を調べる業務から使います。

よくある質問

RAGを使えば、生成AIは間違えなくなりますか

なくなりません。資料に書いていないことを聞かれたときや、検索した資料が質問と関係ないときは、誤った回答が出ることがあります。回答に付いた出典を開いて、元の資料で確かめる運用にします。

RAGに入れた社内資料は、AIの学習に使われますか

サービスによって違います。Gemini Notebookはアップロードしたデータをモデルの学習に使わないとしており、Microsoft Copilotも組織のデータを基盤のモデルの学習に使わないとしています。使う前に、契約するプランのデータの扱いを公式のページで確かめます。

RAGを試すのに、プログラミングは必要ですか

試すだけなら必要ありません。Gemini Notebookのように、資料をアップロードして質問するだけで使えるサービスがあります。社内のシステムとつなぐ仕組みを作るときに、開発が必要になります。

自社のどの業務でRAGを使えばいいか分かりません

社内の問い合わせ対応や、規程・手順書を調べる時間が長い業務が候補です。CoadexのAI活用セルフ診断で業務を選ぶと、AIで減らせる時間の目安が出ます。

出典・参考資料