「RAGについては理解できたが、自社のどの業務に使えるのかイメージが持てない」「上司を説得するために他社の実績を調べている」という方も多くいらっしゃるのではないでしょうか。
この記事では、LINEヤフー・AGC・丸紅など国内企業・自治体10社へのインタビューをもとに、RAGの実際の活用内容と担当者が語った導入効果を詳しく紹介します。各社の担当者の言葉をそのまま引用しているため、社内プレゼンや提案資料の根拠としてもそのまま使えます。
RAGとは
RAGとは、AIが回答を生成する前に外部データベースを検索して関連情報を参照する技術です。 正式名称はRetrieval-Augmented Generation（検索拡張生成）といいます。
ChatGPTのような汎用AIは学習済みの知識だけで回答を生成するため、社内マニュアル・最新の製品仕様・自社固有のルールについては「知らない」状態です。RAGはこの課題を解決するために開発されました。自社データをAIが参照できるデータベースとして整備することで、汎用AIでは答えられなかった「自社固有の質問」に正確に回答できるようになります。
仕組みや技術的な詳細は、以下の記事で詳しく解説しています。
RAGの仕組み
RAGは「検索→取得→生成」の3ステップで動きます。 このプロセスにより、AIは自社固有の最新データを参照した回答を生成できます。
- 検索（Retrieve）：ユーザーの質問を受け取り、ベクトル検索でデータベースから関連する文書・段落を特定する
- 取得（Augment）：特定した関連情報をAIへの入力に追加する形で渡す
- 生成（Generate）：AIが「質問＋取得した情報」をもとに回答を生成し、参照元のドキュメントも併せて出力する
参照元ドキュメントを回答と一緒に提示できる設計にすることで、ユーザーが回答の根拠を確認できます。ハルシネーションへの対策として、参照元の明示は設計上の重要なポイントです。
RAGを導入するメリット
RAGを導入することで得られる主なメリットは3つです。
いずれも「汎用AIをそのまま使う」だけでは解決できない課題に対応しています。
①回答の信頼性が上がる
汎用AIは根拠なく回答をしたり、誤った回答を出力することがあります。RAGは「どのドキュメントを参照して回答したか」を明示できるため、ユーザーが回答を検証できます。規定・契約・法令が関わる業務では、根拠の提示が信頼性に直結します。
②学習コストをかけずに最新情報を参照できる
ファインチューニング（AIの学習方法の1つ）は費用と時間がかかります。対してRAGは、データベースのドキュメントを更新するだけでよいため、製品改訂や法令変更など頻繁に更新が発生する情報にもリアルタイムで対応できます。
③社内データを外部に出さない設計が可能
自社環境内にデータベースを構築するため、機密情報を外部サービスに送信せずに済みます。閉域環境で運用することで、情報漏洩リスクを抑えながら社内データをAIに活用させることができます。
RAG活用事例10選【Taskhub独自取材】
1.LINEヤフー株式会社（SeekAI）：PoCで業界平均の2倍、90%以上の精度を達成
LINEヤフーは、部門ごとに散在する社内情報の「検索しにくさ」という課題を、RAGシステム「SeekAI」の内製開発で解決しました。 一般的な社内RAGのPoC精度が40〜50%とされる中、90%以上という精度を実現しています。
社内技術情報の問い合わせ対応・営業コミュニケーション支援・部門ごとの申請フロー対応など、組織ごとに最適化されたデータ管理を念頭に構築。権限管理により特定部門のみアクセス可能な設計になっています。
高精度を実現した要因について、インタビューをさせていただいたインフラ統括本部の殷雷さんは下記のように述べています。
「チャンクの品質を重視し、文脈を維持したままチャンク作成することが非常に重要です。LLMの扱えるデータ量に合わせて分割する際に文脈が失われることがあるため、この点に徹底的にこだわりました」
ハルシネーション対策として参照元資料を明示する設計を採用しており、社員からは「情報の参照元が明記されているため情報ソースとして信頼できる」という評価を得ています。
参考：RAGを搭載した生成AIツール「SeekAI」を業務に活用｜LINEヤフー株式会社
2.LINEヤフー株式会社（Sphinx）：RAGを核にした複数AI統合エージェントで業務時間を6割削減
LINEヤフーはRAGを核に複数のAIツールを自動連携させるエージェントシステム「Sphinx」を開発し、広告営業部門の業務時間を約6割削減しました。 利用権限保有率9割以上・アクティブ利用率8割以上という高い定着率も達成しています。
「複数のツールを意識させない”一つの箱”」というコンセプトで設計されており、ユーザーが目的を伝えるだけで、背後の社内情報検索（RAG）・資料生成・分析ツールを自動で組み合わせます。
インタビューをさせていただいた小川知紘さんは下記のように述べています。
「何をしたいかを伝えるだけで、どのツールを組み合わせれば最適かをSphinxが自動で判定します。使う人のスキルに関係なく、誰もがやりたいことを実現できる世界を追求し続けたいと思っています」
参考：【業務時間6割削減を実現】複数のAIを意識させない「Sphinx」｜LINEヤフー株式会社
3.AGC株式会社：RAG搭載の社内AI「ChatAGC」で部門横断の削減効果を実現
AGCは、汎用AIでは対応できない社内固有の技術情報・製造ノウハウの活用を、RAG機能搭載の内製AI「ChatAGC」で実現しています。 設計・製造・営業・事務など部門を問わず展開しており、「このユースケースでこれほど削減効果があるのか」と担当者自身が驚く結果が複数出ています。
「社員が安全に利用できる環境を整備したい」という出発点でRAGを中核に据え、情報システム部とデジタル・イノベーション推進部の分業体制で構築。アクセス権限の範囲内で社員が利用できる設計になっています。
インタビューをさせていただいた担当者は、RAGによって実現できることについて下記のように述べています。
「元のGPTが学習した範囲では提供できないようなアイデアの検討や検証が可能になっています。様々なデータがRAGに連携され、ChatAGCに社内のノウハウや知見が集約されていくことを目指しています」
効果の横展開にも注力しており、1,600人超が登録するTeamsコミュニティと1,500人超が参加したセミナーを通じて成功事例を社内共有しています。
参考：RAG機能のある対話型AI「ChatAGC」を内製開発 業務に活用｜AGC株式会社
4.丸紅株式会社：グループ9,200人が利用、アクティブユーザー率60%超を維持
丸紅は、社内向けチャットAI「Marubeni Chatbot」にRAGを組み込み、バックオフィスのガイドライン・ルールブックに関する社内問い合わせ対応を自動化しました。 グループ会社含む約9,200人が利用し、アクティブユーザー率は丸紅全体で60%以上・グループ全体で月間約50%を維持しています。
インタビューをさせていただいたデジタル・イノベーション部の吉田元気さんは、RAG精度を高めるためのデータ整備について下記のように述べています。
「データをAI活用を前提とした構造や言い回しに修正しました。元データの質がRAGの精度に直結するため、データ整備を『AIファーストに整備』する過程で丁寧に進めました」
参考：社内向けに内製で生成AIを利用したチャットサービスを開発 60%のアクティブユーザー率を誇る｜丸紅株式会社
5. アサヒビール株式会社：技術情報検索システムで社員の約3分の2が検索時間を50〜75%短縮
アサヒビールは、R&D部門に蓄積された膨大な研究資料・技術情報の「探しにくさ」を、RAG活用の技術情報検索システム「saguroot」で解決しました。 導入後、約3分の2の社員が検索時間を50〜75%短縮したと回答しています。
若手社員が過去の研究事例や技術ノウハウにアクセスしにくいという課題を抱えており、「研究事例や過去の取り組みについて知る機会が少なく、情報を探し出すことが困難な場合があります」という背景から導入を決定しました。
インタビューをさせていただいたイノベーション戦略部の木添博仁さんは、今後の目標について下記のように述べています。
「事務作業を半分削減することを目標として、研究開発にもっと時間を割けるようにしたいと考えています。RAGを活用した技術情報検索がその基盤になっています」
参考：生成AIを活用した技術情報検索システムを開発｜アサヒビール株式会社
6.エン・ジャパン株式会社：社内WikiとRAGを連携し、スカウトメール受信件数58%増加を実現
エン・ジャパンは、膨大な社内Wikiデータの「検索しにくさ」という課題をRAGで解消し、スカウト機能への応用でスカウトメール受信件数を58%増加させました。 社内FAQや業務効率化だけでなく、プロダクト機能への実装にまでRAGを活用している点が特徴的な事例です。
社内Wikiにはフローやノウハウなどのデータが大量に蓄積されていましたが「その膨大なデータゆえに検索が難しいという問題がありました」。GPTベースの社内向けサービス「enChat」を開発し、RAGによって社内WikiをQ&A形式でチャット可能な状態にするとともに、履歴書自動生成機能として外部サービスにも展開。手動入力の6倍の文字量を持つ職務経歴書の自動生成を実現しています。
インタビューをさせていただいた佐原潤さんは下記のように述べています。
「社内に眠っていたWikiのデータが、RAGによって初めて検索可能な形で活用できるようになりました。社内活用にとどまらず、プロダクト機能への展開まで視野に入れて進めています」
7.東京ガス株式会社：提案書・マニュアル・契約書をRAGで連携、コールセンターと営業支援を効率化
東京ガスは、提案書類・契約書類・業務マニュアルからの情報抽出という課題にRAGで取り組み、コールセンターオペレーターと営業支援担当者の対応時間を削減しています。 生成AI全体の活用でコーディングや翻訳業務における作業時間を約3割削減した実績も持ちます。
社内の問い合わせに対してこれまで担当者がマニュアル類を探して時間をかけて回答していたところ、インタビューをさせていただいたDX推進部の小代直毅さんは導入の効果を下記のように述べています。
「RAGを活用することで、時間をかけずに回答できるようになりつつあります。営業担当者からの問い合わせ対応にもRAGが効いており、現場の負荷が確実に変わっています」
8. 損害保険ジャパン株式会社：社内規程・保険約款をRAGで連携、1,000名の問い合わせ対応を直接回答化
損害保険ジャパンは、社内規程や保険約款の検索結果から「ユーザーが複数のQ&Aを再度探索する必要があった」という非効率を、RAGを組み込んだ社内チャットボットで解消しました。 約1,000名が利用しており、AIが参照資料を明示して直接回答する設計で、社員の「生成AIの回答が本当に正しいのかという疑念を解消」しています。
自動車保険規定集を活用した適用判定支援のプロトタイプ開発も進んでおり、RAGの活用範囲を段階的に拡大しています。
インタビューをさせていただいたDX推進部の石川隼輔さんは、RAG活用の推進方針について下記のように述べています。
「いかに低コストでプロトタイプを作って先に検証するかがポイントです。裾野を一気に広げるよりも、効果を確認しながら段階的に展開することで、現場の信頼を積み重ねています」
参考：社内データベースと連携した自社ソリューションでユーザー体験を向上｜損害保険ジャパン株式会社
9. 宮崎県日向市：過去24年分の議会会議録をRAGで連携、管理職利用率100%を達成
宮崎県日向市は、「大量の公文書を正確に参照しながら業務を行う」という行政特有の課題にRAGで向き合い、管理職利用率100%・一般質問答弁作成への活用率98.5%という定着を実現しました。
過去24年分の議会会議録と約1,500ファイルの例規集をRAGの基盤データとして採用。公文書に適した文言の修正提案・過去の挨拶文を参照した文章生成・例規集の条項を直接確認できるファクトチェック機能を実現しています。
導入の設計方針について、インタビューをさせていただいた総合政策部の平山さんは下記のように述べています。
「個人情報や機密情報の適切な管理と保護を最優先として、外部とは接続されない閉域環境でセキュアに利用できることを必須条件としました。この要件を満たすことが、行政機関としての導入判断の前提でした」
導入当初30〜40%だった利用率は、各部署への継続的な研修を「粘り強く重ねる」ことで月間利用率70%・管理職100%にまで到達しています。
参考：ソフトバンクとの伴走で実現した全庁DX。RAG活用で庁内データを業務に活かす「Hyuga_AI」の挑戦｜宮崎県日向市
10. 奈良県生駒市：人事・総務・契約情報をRAGに格納、口コミで広がり利用者400名超に
奈良県生駒市は、庁内の「誰かに聞かなければわからない」という情報の非対称性をRAGで解消し、トップダウンではなく現場の口コミで利用者400名超・日常的活用者100名の環境を作り上げました。
人事・総務・契約関連など庁内照会の多い情報をRAGに格納し、「わざわざ電話やメールで担当部署に確認しなくても、AIに質問するだけで必要な情報を得られる」状態を実現しています。
インタビューをさせていただいたデジタルイノベーション推進課の南さんは、普及の経緯について下記のように述べています。
「周りの職員が使っているのを見て『これ、便利だよ』『かなり使えるな』といった声が自然に広がっていきました。時間が大幅に削減されていることは間違いありません。次のステップは個人の便利なツールから、組織全体の共通インフラへと進化させていくことです」
参考：職員同士の広がりとRAG活用が後押しに。生駒市が進める職員主体のAI活用｜生駒市
RAG導入を成功させる3つのポイント
RAGの導入を成功に導くには、「データ設計」「UI設計」「組織変化管理」の3軸を同時に押さえることが不可欠です。10社のインタビュー事例を確認してみると、成否を分ける共通要因として次の3点が挙げられます。
①データの整備とチャンキングの徹底
RAGの回答精度は、データの「分割方法（チャンキング）」と「元データの品質」に直結します。
RAGはユーザーの質問に最も意味的に近いチャンク（テキスト断片）を検索して、それを文脈としてAIに渡す仕組みだからです。チャンクの分割粒度が適切でなければ、無関係な情報を含む断片が上位に来てしまい、回答がズレます。チャンクが小さすぎると文脈が失われ、大きすぎると精度が下がります。更に、元データに誤りや陳腐化した情報が含まれていれば、AIがどれだけ高性能でも誤答を生み続けます。「データを雑多に入れれば入れるほど回答の質が低下する」というのがRAGの特徴です。
インタビューをさせていただいたLINEヤフー株式会社の古橋さんは、下記のように述べています。
「SeekAIでは検索精度を上げるために、ドキュメントの前処理とチャンキング設計に最も時間をかけました。元データの構造化が甘いと、どんな検索アルゴリズムを使っても精度が出ない」
丸紅株式会社のケースでも、社内ドキュメントの整備に先行投資したことが高精度な検索精度の実現につながっています。RAG導入の成否はモデル選定より前に、データ基盤の品質で8割が決まると言っても過言ではありません。
②参照元を明示できる設計が信頼と定着を生む
回答の根拠となるドキュメントをユーザーが確認できる設計にすることが、業務利用の定着に直結します。
AIの回答に「なぜそう言えるのか」が見えなければ、担当者はその情報を業務判断に使うことを躊躇してしまします。特に法務・医療・財務・コンプライアンスなど、責任が伴う領域では根拠のない回答はリスクとして扱われます。一方、参照元のドキュメント名やページ番号が提示されると「自分で原文を確認できる」という安心感が生まれ、AIへの信頼度が上がります。この設計上の工夫一つで、利用率が大きく変わります。
日向市のケースでは、市民向けの行政情報案内で根拠条文へのリンクを明示する設計が採用されており、担当職員が自信を持って市民に説明できるようになったと報告されています。損害保険ジャパンでも、保険約款の参照元を提示することで、コールセンター担当者のエスカレーション件数が減少しています。
③普及活動なしには定着しない
技術的な実装を完了させても、現場への浸透がなければRAGは使われないまま終わります。
なぜなら、システムがどれだけ優れていても、使う側の人間が「何を聞けばいいのか」「この回答をどう業務に活かすか」を理解していなければ、利用率は上がらないからです。RAGの導入は既存の業務フローを変えることを意味します。変化に対して現場が抵抗感を示すのは自然な反応です。また「AIを使うと仕事が奪われる」という懸念が暗黙の利用回避につながるケースも少なくありません。技術導入と並行して、ユースケースの共有・研修・成功事例の横展開といった「人と組織の変化管理」が不可欠です。
インタビューをさせていただいた日向市の担当者の方は、下記のように述べています。
「システムを作っても使ってもらえなければ意味がない。庁内への説明会と個別フォローを繰り返すことで、徐々に”使う文化”が根付いてきました」
AGC株式会社では、AIを活用した成功事例を社内報やSlackで積極的に発信することで、利用者間の自発的な横展開が生まれています。生駒市のケースでも、職員向けのワークショップを複数回実施し「どんな場面で使えるか」を職員自身が発見できる場を作ったことが、定着率向上に繋がっています。
まとめ
RAGは「社内データをAIに活用させる」最も現実的な手段として、業種・規模を問わず国内企業・自治体に広がっています。 今回紹介した10事例に共通するのは「組織に蓄積されたデータをAIが参照できる状態にする」という目的です。業種や用途が近い事例を自社のRAG推進の参考事例として活用してみてください。
