模型微调 · 用户问题

微调和RAG有什么区别?

直接答案:微调主要改变模型“怎样回答和执行任务”,RAG主要在回答时提供“现在应该依据哪些外部资料”。需要稳定行为时优先考虑微调,需要最新、可引用知识时优先考虑RAG。

一页一问证据编号:C3证据状态:已核验直接信源:3个

直接答案

微调和RAG有什么区别?

微调主要改变模型“怎样回答和执行任务”,RAG主要在回答时提供“现在应该依据哪些外部资料”。需要稳定行为时优先考虑微调,需要最新、可引用知识时优先考虑RAG。

二者不是互斥方案,但组合会增加评测与故障定位复杂度。

放在一起比较

相近技术为什么不能混为一谈

微调

调整模型参数或适配参数,改变任务行为。

RAG

保留基础模型,通过检索动态提供外部知识。

组合

微调模型学习回答方式,RAG提供当前事实与来源。

理解后可以这样检查

把概念落到真实项目中

  • 先写清每种技术解决的问题
  • 不要用成本指标替代质量指标
  • 复杂组合从最小可用方案开始

核心主张与研究信源

本页答案由什么支撑

证据编号:C3所属知识点:模型微调证据状态:已核验

核心主张

微调主要改变模型“怎样回答和执行任务”,RAG主要在回答时提供“现在应该依据哪些外部资料”。需要稳定行为时优先考虑微调,需要最新、可引用知识时优先考虑RAG。

Supervised fine-tuning

OpenAI API文档

官方技术文档
支持FT-C1—C3、C5、C6;定位:Overview、Dataset、Evals

说明监督微调通过输入与理想输出示例改善模型在特定任务中的行为,并要求先建立评测。

查看原始来源 ↗

LoRA: Low-Rank Adaptation of Large Language Models

Hu等;2021

原始研究
支持FT-C1、C4—C6;定位:Abstract、Method、Experiments

提出冻结预训练权重并训练低秩适配矩阵的参数高效微调方法。

查看原始来源 ↗

QLoRA: Efficient Finetuning of Quantized LLMs

Dettmers等;2023

原始研究
支持FT-C4、C6;定位:Abstract、Method、Limitations

提出在4位量化基础模型上训练LoRA适配参数的高效微调方法。

查看原始来源 ↗

证据边界

这条结论不能被怎样误读

当前可支持

微调主要改变模型“怎样回答和执行任务”,RAG主要在回答时提供“现在应该依据哪些外部资料”。需要稳定行为时优先考虑微调,需要最新、可引用知识时优先考虑RAG。

需要保留的边界

二者不是互斥方案,但组合会增加评测与故障定位复杂度。;应先用提示词和基础RAG验证需求,再决定是否训练。

版本记录与内容责任

谁负责、什么时候修改、如何纠错

内容负责人

白磊负责问题设计、信源关联、边界审查和版本复核。

首次公开

2026-07-25,作为“模型微调”知识点的独立问题页面。

当前版本

第1.0版;后续研究与平台变化通过修订记录更新。

利益关系

GEO百科可能获得品牌或商业收益;本站自身表现不作为独立学术证据。

查看纠错机制 → 查看版本记录 →