社内文書を生成AIに参照させるRAG（検索拡張生成）を導入したものの、「回答の精度が上がらない」「見当違いの答えが返ってくる」と悩むケースは少なくありません。プロンプトの工夫やモデルの変更に目が向きがちですが、精度が伸びない原因は、実はその手前——AIに読み込ませているデータの品質にあることが多くあります。特に、紙をスキャンした資料をそのまま投入している場合は要注意です。本稿では、RAGの精度が上がらない原因をデータ品質の観点から整理し、改善の勘所を解説します。
RAGの精度は「元データの品質」で決まる
RAGは、あらかじめ用意した文書群から関連箇所を検索し、それを根拠に生成AIが回答する仕組みです。つまり、参照するデータそのものが不正確だったり、構造が崩れていたりすると、どれだけ優秀なAIモデルを使っても、正しい回答は返ってきません。「ゴミを入れればゴミが出る」という言葉のとおり、入力データの質が出力の質を規定します。
RAGの改善というと、検索アルゴリズムやプロンプトの調整が注目されがちです。しかし現場では、そもそも読み込ませているデータが「AIにとって読みにくい状態」になっていることが、精度低下の隠れた原因になっているケースが目立ちます。
紙・スキャン文書がRAGでつまずく典型パターン
紙の資料をスキャンして投入している場合、次のような問題が精度を下げます。
OCR未処理・低精度で本文が正しく読めていない
スキャンしただけの画像PDFは、文字データを持たないためAIが本文を読み取れません。OCR処理済みでも精度が低いと、誤認識された文字がそのまま検索・回答に使われ、事実と異なる答えの原因になります。
表や段組みの構造が失われている
単純にテキストを抽出しただけでは、表の行と列の対応関係、二段組みの読み順、見出しと本文の階層といった構造が失われます。すると、AIは「どの数値がどの項目のものか」を取り違え、文脈を誤読します。RAGでは文書を一定のまとまり（チャンク）に分割して扱うため、構造が壊れていると、分割の境目で意味が寸断されることもあります。
メタデータがなく、検索で正しく絞り込めない
文書に、作成日・部署・分類といった情報（メタデータ）が付いていないと、RAGが「どの文書を参照すべきか」を適切に選べません。結果として、無関係な文書を根拠にしてしまい、回答がずれます。
データ品質を上げる3つの勘所
RAGの精度を底上げするには、AIに渡す前のデータ整備が効きます。ポイントは3つです。
第一に、正確なテキスト化です。紙資料は、高精度なOCRと、必要に応じた人手の確認で、誤認識のないテキストに仕上げます。手書き・縦書き・表を含む資料は特に品質差が出やすい部分です。第二に、構造の保持です。見出し・段落・表の構造を保ったデータ（テキストやMarkdown形式など）に整えると、AIが文脈を正しく捉えられ、チャンク分割も意味のまとまりで行えます。第三に、メタデータの付与です。タイトル・年月・分類などを付けておくと、検索の絞り込み精度が上がります。
これらは、いわばRAGの「前処理」にあたる工程です。ここを丁寧に行うほど、その後の検索・生成の精度が安定します。
＞＞研究資料や文書をAI・RAGで活用するためのデータ整備の全体像はこちらのガイドで詳しく解説しています。
紙資料が多いなら、電子化の段階から設計する
参照させたい文書が紙で残っている場合、スキャンとOCRの段階から「AIで使うこと」を見据えて設計すると、後戻りが減ります。単に画像PDFにするのではなく、検索可能なテキストにし、構造やメタデータまで整えておく。この設計を最初に組み込んでおけば、RAG構築のたびにデータを作り直す手間を避けられます。
大量の紙資料を扱う場合や、手書き・状態の悪い資料を含む場合は、人手の確認を組み合わせられる専門のスキャン・OCRサービスを使うと、AIに渡せる品質を安定して確保できます。
＞＞AI-OCRツールとスキャン代行の違い・使い分けはこちらで解説しています。
よくある質問
Q1. RAGの精度が低いのは、AIモデルのせいではないのですか？
A. モデルの性能も影響しますが、実際には参照データの品質が原因になっているケースが多くあります。OCRの誤認識やレイアウト崩れがあると、モデルを変えても正しい回答は得にくくなります。
Q2. スキャンしたPDFをそのままRAGに入れてはいけませんか？
A. OCRがかかっていない画像PDFは、AIが本文を読み取れないため精度が出ません。OCRで検索可能な状態にし、できれば構造やメタデータまで整えてから投入するのが望ましいです。
Q3. 表や図が多い資料はどう扱えばよいですか？
A. 表や図は、単純なテキスト抽出では構造が崩れやすい部分です。行と列の対応や読み順を保持したデータ整備を行うと、AIの誤読を減らせます。人手の確認を組み合わせると精度が安定します。
Q4. どのくらいの精度でOCRすればよいですか？
A. 用途によりますが、回答の根拠に使う以上、誤認識は少ないほど有利です。重要な資料は高精度OCRと人手確認の組み合わせをおすすめします。テストスキャンで事前に精度を確認できます。
Q5. 大量の紙資料をRAG用に整備してもらえますか？
A. 可能です。当社は1日10万枚の処理能力で、大量の資料のスキャン・OCR・データ整備に対応しています。国内の自社内で一貫処理するため、機密性の高い社内文書も安心してお任せいただけます。
まとめ
RAGの精度が上がらない原因は、プロンプトやモデルより前の「データ品質」にあることが多く、特に紙をスキャンした資料では、OCR未処理・低精度、構造の喪失、メタデータの欠如が精度を下げます。改善の勘所は、正確なテキスト化・構造の保持・メタデータの付与という前処理にあります。紙資料が多い場合は、電子化の段階からAI活用を見据えて設計するのが近道です。スキャンプロでは、高精度OCRから構造・メタデータを意識したデータ整備、国内自社内での機密処理まで、RAGの前工程となる電子化を1枚からお手伝いしています。RAGの精度にお悩みの際は、まず元データの品質を見直してみてください。