モデルに非公開、最新、または頻繁に変わる文書が必要な場合はretrieval-augmented generation(RAG、検索拡張生成)を使い、プロンプトエンジニアリングの効果が頭打ちになった後も一貫した文体、形式、タスク上の振る舞いが必要な場合はファインチューニングを使います。両者が解決する問題は異なり、本番システムでは外部の事実にRAGを、信頼できる出力の振る舞いにファインチューニングを組み合わせることがよくあります。
RAGとファインチューニングの違いは?
Retrieval-augmented generation(RAG)は、問い合わせ時にモデルへ外部の参照テキストを提供します。一方、ファインチューニングは特定のデータセットでモデルの重みを更新し、学習済みの振る舞いを変えます。RAGのワークフローでは、検索工程がインデックスから関連する文章を取得し、ユーザーの要求とともに追加します。これによりモデルは、事前学習で得たパラメーターだけに頼らず、最新または非公開の資料に回答の根拠を置けます。検索を利用する仕組みの詳しい入門は、RAGとは何かをご覧ください。
ファインチューニングでは、より限定されたデータセットでベースモデルの学習を続け、基礎となるパラメーターを変化させます。チームは一般に、プロンプト例と望ましい出力の組で学習する教師ありファインチューニング(SFT)や、好ましい回答とそうでない回答の比較から学習するDPOなどの選好手法を使います。文書をプロンプトに入れると単一の要求の入力コンテキストが変わりますが、ファインチューニングは将来の要求全体にわたるモデルの振る舞いを変えます。
2020年の研究論文から現代のRAGパイプラインへ
2020年の元のRAGアーキテクチャはニューラル検索器と生成器を一緒に学習させましたが、現代の本番RAGシステムは通常、分割した文書をインデックス化し、取得した文章をプロンプトに渡します。Lewis et al.はNeurIPS 2020の論文(arXiv:2005.11401)でこの用語を導入し、事前学習済みのパラメトリックメモリー(BARTの系列変換生成器)と、ノンパラメトリックメモリー(Dense Passage Retriever、DPRで検索するWikipediaの高密度ベクトルインデックス)を組み合わせました。
著者らがこのハイブリッド設計を作ったのは、パラメトリックモデルだけでは世界の知識を正確に更新しにくく、情報源が不明瞭になり、幻覚も起こすためです。再学習なしでインデックスが知識を更新できることを示すため、指導者の交代に関する82の質問で、2016年12月のWikipediaインデックスを2018年12月のものに交換しました。質問と年が一致するインデックスの正答率は約70%と68%でしたが、一致しない場合は約12%と4%に低下しました。この結果は、インデックスの更新によって回答が更新されることを示していますが、同じ数値があらゆる本番環境に当てはまるという意味ではありません。
現在、開発チームがDPRとBARTの組を端から端まで一緒に学習させることはまれです。AWS Prescriptive GuidanceやAWS Machine Learningの技術記事で説明されているように、本番のRAGパイプラインは通常、次の3段階を踏みます。
- 取り込みとインデックス化: 元の文書を扱いやすい断片に分割し、ベクトル表現を計算して、生のテキストとメタデータとともにベクトルを保存します。境界を慎重に選ぶことが重要です。RAG向けの文書分割と埋め込みとは何かのガイドで説明しています。
- 検索: 受け取ったユーザーの質問を検索クエリに変換し、意味的な類似性、キーワード照合、またはハイブリッド検索で上位k件の文章を取得し、必要に応じて候補を再順位付けします。
- 拡張と生成: 取得した文章とユーザーの質問をプロンプトに挿入し、言語モデルが根拠に基づく回答を生成できるようにします。
AWSの技術ガイダンスは、生成品質は検索品質に左右され、RAGシステムの良し悪しは検索器次第だと強調しています。
ファインチューニングではなくRAGを使うべき場合は?
アプリケーションが、ベースモデルでは確実に思い出せない非公開、最新、または頻繁に更新される文書に依存する場合、通常はRAGから始める方が適切です。製品の変更履歴、社内人事方針、サポートチケット、技術運用手順書は絶えず変化します。検索インデックスのレコードを追加または交換すれば利用可能な知識はすぐに更新されます。一方、ファインチューニングによる事実の取り込みは遅く、学習完了後すぐにモデルの知識が古くなることもあります。
RAGは、エンジニアやエンドユーザーが回答のために取得された正確な文章を確認できるため、情報源の追跡にも役立ちます。OpenAIの公開精度ガイダンス(2026年11月18日確認)によると、RAGはモデルに特定分野のコンテキストへのアクセスを与え、OpenAIの大規模な顧客導入の多くはプロンプトエンジニアリングとRAGだけに依存しています。OpenAIのモデル最適化ドキュメントも、まったく新しい知識の追加にはファインチューニングが不向きだとし、代わりに検索を推奨しています。RAGでも検索精度と根拠に基づく回答の評価は必要ですが、大規模な学習データセットを整備しなくても、既存ファイルから動作する最初のバージョンを立ち上げられます。
ファインチューニングが次の一手として適切なのは?
モデルが必要な事実をすでに受け取っているにもかかわらず、プロンプトエンジニアリングの効果が頭打ちになった後も、求める文体、スキーマ、振る舞いのパターンに従えない場合、ファインチューニングが適切な次の一手になります。OpenAIのガイダンス(2026年11月18日確認)が述べるように、ファインチューニングは学習済みの記憶と一貫性に関する課題に対処します。たとえば、モデル内にすでにある知識の強調、構造化された出力形式の徹底、特定の語り口の採用、小さなモデルへの限定的なタスクの確実な習得です。また、長い指示や少数例を学習済みの振る舞いに置き換え、プロンプトを短くするためにも使われます。
代表性のあるラベル付き例と、学習に使わない評価セットがなければ、学習ジョブを開始しないでください。OpenAIの精度ドキュメントは、学習データの品質が単純な量より重要だと強調しています。テストの一般的な出発点として高品質な例を50+件挙げ、残るエラーの原因がコンテキスト不足ではなく振る舞いにある場合に限り拡充するよう勧めています。50+件は最初の目安であり、保証ではありません。
RAGとファインチューニングは組み合わせることもできます。評価でコンテキストの不足と形式のずれの両方が明らかになった場合、チームはRAG形式の学習例でモデルをファインチューニングできます。これにより、取得したコンテキストを例なしで扱わせる代わりに、取得文章を確実に読み引用する方法を学習させます。技術としてのファインチューニングはオープンウェイトモデルや複数のプロバイダーで引き続き使われていますが、各社の提供内容は変わります。2026年11月18日時点でOpenAIは、ファインチューニングプラットフォームを段階的に終了し、新規ユーザーには閉鎖していると発表しています。条件を満たす既存顧客は2027年1月6日まで学習ジョブを実行でき(ベースモデルがそれより早く終了する場合を除く)、学習済みモデルはベースモデルの廃止まで推論に利用できます。
プロンプトエンジニアリングとLoRAの位置付け
プロンプトエンジニアリングは、検索インデックスや学習パイプラインを構築する前に、最も速く基準を作る方法です。一方、Low-Rank Adaptation(LoRA)は、モデルの全重みではなく小さなアダプター行列を学習させることで、ファインチューニングを軽量化します。
まずプロンプトエンジニアリングから
プロンプトエンジニアリングでは、各要求に明確な指示、出力制約、少数例を組み合わせます。検索インデックスも学習ループも必要ないため、どのチームもまずプロンプトエンジニアリングを十分に試し、性能の基準を設けるべきです。ワークフローが大きくなると限界が現れます。プロンプトはコンテキストウィンドウに制限され、長い少数例の指示は遅延とトークンの追加コストを招き、プロンプトだけでは非公開コーパスを検索できません。文書の不足が失敗を招くなら検索を追加し、出力の一貫性が頭打ちならファインチューニングを検討します。
LoRAとパラメーター効率のよいファインチューニング
ファインチューニングでは、大規模モデルのすべてのパラメーターを更新したり、用途ごとに完全なサイズの別チェックポイントを用意したりする必要はありません。Hu et al.が導入したLoRA(ICLR 2022、arXiv:2106.09685)は、事前学習済みのモデルの重みを固定し、Transformerの注意機構の重みなど、選択した層に学習可能な小さい低ランク分解行列を挿入します。学習で更新するのはこのコンパクトなアダプターだけなので、はるかに少ない学習可能パラメーターでモデルを適応させられます。推論時には、LoRAアダプターをベースの重みに統合して元のモデルに対する追加遅延をゼロにすることも、タスクごとに動的に交換することもできます。
チームのための実践的な判断枠組み
RAGとファインチューニングの選択は、データの鮮度、振る舞いの要件、評価の準備状況、運用負荷について技術的な確認を順に行うとうまくいきます。開発時間を投入する前に、次の6つの質問を検討してください。
- 必要な知識は非公開、新しい、または頻繁に変化するものですか? インデックスの更新で知識を更新できるよう、RAGから始めます。
- 文体、スキーマ、タスクの一貫性を調整する必要がありますか? プロンプトエンジニアリングから始め、プロンプトの効果が頭打ちになった場合にのみファインチューニングを検討します。
- ラベル付きの例と評価方法がありますか? ファインチューニングには、学習開始前に代表的な入出力の組と、学習に使わない評価セットが必要です。
- チームに合う運用サイクルはどちらですか? RAGでは文書の取り込み、分割、権限管理、検索の調整が加わります。ファインチューニングではデータセットの整備、学習の実行、ベースモデル更新時の再評価が加わります。
- 安定したタスクで長いプロンプトが効率を損なっていますか? ファインチューニングは繰り返し使う指示をモデルの重みに組み込み、プロンプトの短縮や小さいモデルの利用に役立ちます。
- 評価で両方の問題が現れていますか? プロンプトエンジニアリング、変化する事実のためのRAG、信頼できる振る舞いのためのRAG形式の例によるファインチューニングを組み合わせます。
| 状況 | 通常の出発点 | 理由 |
|---|---|---|
| 非公開または頻繁に更新される文書を回答の根拠にする必要がある | RAG(基準となるプロンプトの後) | 知識は再学習なしで更新できるインデックスに置かれる |
| 一貫した語り口、テンプレート、構造化出力が必要 | プロンプトエンジニアリング、頭打ちならファインチューニング | 出力形式は振る舞いの問題であり、文書検索の不足ではない |
| 変化する事実と厳格な組織固有の文体の両方が必要 | RAGとプロンプトを使い、次にRAGの例でファインチューニングを検討 | 検索が最新の事実を供給し、学習が形式を定着させる |
| 評価セットもラベル付き出力もない | プロンプトと必要に応じてRAG(ファインチューニングは待つ) | 評価なしでは学習が結果を改善したか確認できない |
| 変化する事実一覧をモデルに記憶させたい | RAGまたは専用の検索ツール | ファインチューニングは更新が遅く、すぐに古くなるおそれがある |
それぞれの方法でなお起こる問題は?
RAGとファインチューニングにはそれぞれ異なる失敗パターンがあり、どちらの技術も幻覚をなくしたり、評価とアクセス制御の必要性をなくしたりはしません。
RAGの失敗パターン
- 幻覚は残る: モデルは取得した文章を無視したり、取得したコンテキストと矛盾するパラメトリックメモリーを混ぜたり、検索で関連情報が得られないと回答を捏造したりすることがあります。AIの幻覚率のガイドでは、根拠付けが捏造のリスクをなくすのではなく減らす理由を説明しています。
- 検索漏れとインデックスの陳腐化: インデックスに古いファイルや矛盾するファイルが含まれる場合、分割によって重要なコンテキストが途切れる場合、またはほぼ重複する断片が多すぎてプロンプトを占める場合、RAGは失敗します。RAGの問題調査は取得文章の確認から始めます。
- 間接的なプロンプトインジェクション: 外部ソースやユーザーが編集できるソースから取得した文書には、モデルの出力を乗っ取るための隠れた指示が含まれる場合があります。プロンプトインジェクションとは何かの概要で説明しているように、信頼できるシステムプロンプトと取得テキストは常に分離してください。
- アクセス漏えいと過大なコンテキスト: 共有インデックスに置かれた文書は、権限によって検索結果をフィルタリングしない限り、そのシステムに問い合わせるユーザーに表示される可能性があります。取得テキストを過剰にプロンプトに詰め込むと、中央に埋もれた情報にモデルが注意を向けられなくなることもあります。
ファインチューニングの失敗パターン
- 過学習とデータセットの偏り: 限定的または代表性のない例で学習したモデルは、書式の癖を記憶し、本番の実際の入力が変化すると正常に動かなくなることがあります。
- 古い事実とガバナンスの欠落: ファインチューニングだけでは事実に関する知識は最新に保たれず、重みの学習はツールの権限、入力のガードレール、学習後の評価に代わるものではありません。
FAQ
同じシステムでRAGとファインチューニングを組み合わせられますか?
はい。RAGとファインチューニングは相互に補完し、本番環境で組み合わせられることもよくあります。RAGは問い合わせ時に最新または非公開の事実を取得し、ファインチューニングは文体、出力スキーマ、指示の遵守を徹底します。RAGモデルをファインチューニングする場合は、モデルがコンテキストに基づいて回答する練習をできるよう、取得した文章を学習例に含めてください。
RAGはAIの幻覚を完全になくしますか?
いいえ。RAGは関連する原文をモデルに与えて捏造リスクを下げますが、幻覚は依然として起こります。モデルは取得した断片を読み違えたり、取得した事実と矛盾する事前学習済みの記憶を混ぜたり、検索が失敗したときに推測したりします。根拠のない主張を見つけるには、検索のヒット率指標と回答の根拠付けの評価の両方が必要です。
モデルのファインチューニングには何件の例が必要ですか?
成功を保証する単一のデータセットサイズはありません。単純な量より、例の品質と本番環境に対する代表性が重要だからです。OpenAIの精度ガイダンス(2026年11月18日確認)は、実用的な出発点として、質の高い例50+件と学習に使わない評価セットを挙げています。早期に評価し、エラーが振る舞いに由来することを確認してから、慎重に拡充してください。
LoRAは完全なファインチューニングより優れていますか?
LoRAはパラメーター効率のよいファインチューニング手法で、完全なファインチューニングより軽量な代替手段ですが、常に優れているわけではありません。事前学習済みの重みを固定し、コンパクトな低ランク行列を学習することで、LoRAは学習可能なパラメーターを減らし、追加遅延なしでベースの重みに統合できます。評価セットを使って両方の方法を比較してください。
RAGやファインチューニングなしでプロンプトエンジニアリングだけで十分なのは?
ベースモデルがすでにその分野の事実を知っており、参照資料がプロンプトに十分収まり、明確な指示と少数の例で一貫した出力が得られる場合は、プロンプトエンジニアリングだけで機能します。非公開または変化する文書が不足している場合はRAGを追加し、文体、構造、トークン効率でプロンプトの効果が頭打ちになった場合に限りファインチューニングを追加します。
参考資料
- Lewis et al., “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks” (arXiv:2005.11401)
- Meta AI: Retrieval-Augmented Generation blog post
- AWS Prescriptive Guidance: Understanding LLMs and RAG
- AWS Machine Learning Blog: From RAG to fabric: lessons learned from building real-world RAGs at GenAIIC (Part 1)
- Hu et al., “LoRA: Low-Rank Adaptation of Large Language Models” (arXiv:2106.09685)
- OpenAI: Optimizing LLM Accuracy
- OpenAI: Model optimization
- OpenAI: Supervised fine-tuning



