RAG (検索拡張生成) とは？仕組み・実装・LangChain 例

• RAG は「外部知識を検索 → LLM に渡して回答させる」手法
• LLM のハルシネーションを抑え、社内文書・最新情報・固有知識を反映できる
• 基本フロー: 文書分割 → Embedding → ベクトルDB → 検索 → LLM プロンプトに付与 → 回答
• ファインチューニングより低コストで知識更新が容易（DB を差し替えるだけ）
• 主要フレームワーク: LangChain / LlamaIndex / Haystack
• 精度向上の鍵: チャンク分割の質 / Embedding モデル選定 / 再ランク / ハイブリッド検索
• 限界: 検索でヒットしない情報は答えられない。チャンク分割品質に強く依存

from langchain_community.document_loaders import PyPDFLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_community.vectorstores import Chroma
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_core.output_parsers import StrOutputParser

# 1) 文書読込 → チャンク分割
docs = PyPDFLoader("manual.pdf").load()
splits = RecursiveCharacterTextSplitter(chunk_size=800, chunk_overlap=100).split_documents(docs)

# 2) Embedding → ベクトルDB
vs = Chroma.from_documents(splits, OpenAIEmbeddings(), persist_directory="./db")
retriever = vs.as_retriever(search_kwargs={"k": 4})

# 3) RAG チェーン
prompt = ChatPromptTemplate.from_template("以下の参考情報を踏まえて質問に答えてください。\\n\\n参考:\\n{context}\\n\\n質問: {question}")
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
rag = ({"context": retriever, "question": RunnablePassthrough()}
       | prompt | llm | StrOutputParser())

print(rag.invoke("返金ポリシーを教えて"))

• GraphRAG: 知識グラフを併用。複数文書をまたいだ関係性質問に強い（Microsoft 提唱）
• Agentic RAG: エージェントが検索 → 評価 → 追加検索を繰り返す。複雑な質問に対応
• マルチモーダル RAG: 画像・表・PDF を含む検索
• セルフルーティング RAG: 質問種別で別の DB / 別の手法に振り分け

• 評価セットを作る（質問 / 期待回答 / 出典）。ベンチマークが無いと改善できない
• 失敗ログを観察。検索失敗 / 生成失敗 / プロンプト不備のどれか切り分け
• 引用 ID を返させる: [doc_3] 等を出力に強制 → 検証可能
• 「分からない場合は分からないと言う」をプロンプトで明示
• チャンク分割は意味の単位で切る（見出し・段落で分割）
• 本番では増分インデックスを仕組み化（全件再構築は高コスト）
• 監視: 検索ヒット率・回答時間・LLM トークン消費・ユーザ評価

• 検索ヒットしなければ答えられない。再ランクや HyDE で底上げ
• チャンクが大きすぎる / 小さすぎる — 情報が薄まる / 文脈が切れる
• PII / 機密情報を全部 Embedding: アクセス権付き RAG にする
• Embedding モデルの変更: 既存ベクトルが使えなくなる。再生成が必要
• 同じ用語の表記揺れ: 検索ヒット率が下がる。前処理で正規化
• 古い情報 vs 新しい情報の混在: メタデータ（公開日）でフィルタ
• プロンプトインジェクション: 検索結果に悪意ある指示が紛れる可能性
• 多言語データ: 単言語 Embedding だと精度劣化。多言語モデルを使う