Ideas worth a closer look
VIVA PARADOX.Independent stories, clearly told.
Viva Paradox · ZH-HANS

微调 vs. RAG:何时该用哪一种?

Conceptual editorial artwork: 微调 vs. RAG:何时该用哪一种?

比较微调与 RAG,并不是在两种可互换的、让大型语言模型变得更聪明的方法之间做选择。它们代表的是两种不同的定制模式:一种是在查询时检索相关信息,另一种则是训练模型,使其在特定任务中表现出不同的行为。

对于许多投入生产的 AI 应用来说,最佳答案并不是二选一。RAG 可以提供事实;微调则可以改进模型如何使用这些事实、遵循指令、格式化输出,或处理某种专门的工作流。

微调 vs. RAG:简要答案

当你的应用需要依据外部信息来回答问题时,应使用检索增强生成(Retrieval-Augmented Generation,RAG):这些信息可以是内部文档、政策、产品目录、支持文章、法律或合规材料,或其他会随时间变化的知识。

当你的应用需要更一致的行为时,应使用微调:例如特定语气、输出格式、分类体系、抽取模式、工作流,或能够通过示例展示的领域专属回复风格。

当系统既需要有依据的知识,又需要稳定一致地执行任务时,可以两者并用。一种常见的混合模式是:先用 RAG 检索相关上下文,再用经过微调的模型以可预测的格式或风格来解释这些上下文。

关键区别很简单:

  • RAG 主要是让答案建立在外部数据之上。
  • 微调主要是为了改变模型在某项任务中的行为。

微软在其关于Microsoft Foundry 中的 RAG 与索引的文档中,将 RAG 描述为一种把模型输出锚定在数据上的方法,并指出 RAG 和微调可以结合使用,而不必被视为相互排斥的做法。OpenAI 同样在其监督式微调指南中,将监督式微调描述为一种通过示例为特定任务定制模型行为的方法。

什么是检索增强生成?

检索增强生成是一种架构模式:AI 应用会从外部来源检索相关信息,并在生成答案之前,把这些信息作为上下文加入模型提示词中。

典型的 RAG 流程如下:

  1. 用户提出一个问题。
  2. 系统搜索索引、文档库、向量数据库、搜索引擎或其他知识来源。
  3. 最相关的内容片段会作为上下文加入提示词。
  4. 语言模型利用检索到的上下文生成回复。
  5. 根据设计不同,应用还可以包含引用、来源说明、置信度信号或后续操作选项。

RAG 的有用之处在于,模型不必只依赖它在预训练期间学到的内容。它可以使用请求发生时检索到的信息。这使 RAG 非常适合企业知识库、客户支持系统、政策助手、产品文档机器人,以及需要引用当前数据或专有数据的应用。

最初的 RAG 研究论文提出了一种将参数化记忆与检索到的非参数化记忆相结合的模型。不过,该论文中的结果适用于研究人员评估的特定架构和实验,不应被泛化为证明每一种现代商业 RAG 实现都会以相同方式运行。该论文仍然是理解这一概念的有用背景;可参阅原始的arXiv 上的检索增强生成论文。

什么是微调?

微调是指用示例对现有模型进行训练,使其在特定任务上表现更好,或更可靠地遵循某种期望模式。

在监督式微调中,训练数据通常由输入—输出示例组成。这些示例向模型展示,在特定使用场景下,一条好的回答应该是什么样子。随着训练推进,模型会逐渐让自己的行为向这些示例靠拢。

当应用需要以下能力时,微调常常会被使用:

  • 一致的回答结构
  • 特定的写作风格或语气
  • 特定领域的措辞
  • 可靠的分类行为
  • 结构化数据提取模式
  • 仅靠提示词难以实现的重复性任务处理
  • 更稳定地遵循某个工作流程或决策模式

对于存储大量不断变化的事实性知识,微调通常并不是最佳的第一选择。如果信息频繁变化,RAG 系统往往可以在不重新训练模型的情况下更新底层知识源或索引。微调可以包含事实性示例,但如果把它当作最新知识检索层的替代品,可能会带来维护和可靠性问题。

此外,微调的可用性、支持的模型、定价以及数据处理规则会因提供商而异,并且可能随时间变化。团队在作出架构承诺之前,应核实供应商最新的文档。

核心区别:知识锚定与行为定制

在微调与 RAG 的讨论中,最常见的错误是假定这两种方法解决的是同一个问题。

并不是。

RAG 回答的是这个问题:模型现在应该使用哪些信息?

微调回答的是这个问题:模型在执行这项任务时应该如何表现?

如果你的模型给出的回答很流畅却已经过时,那么微调很可能不是首要的修复办法。你更可能需要通过检索来实现更好的知识锚定。

如果你的模型已经能够访问正确的文档,但仍然以错误的格式作答、使用不合适的语气,或对任务规则的执行不一致,那么微调可能会有所帮助。

在实践中,许多团队会从提示词和 RAG 入手,因为他们需要模型能够访问可信的知识来源。之后,当评估显示反复出现的行为失误,而更好的提示词和检索设计也无法解决时,他们才会考虑微调。

何时使用 RAG

当应用必须基于外部、专有、不断变化或可审计的信息来生成答案时,RAG 非常适合。

将 RAG 用于当前或频繁变化的信息

如果答案取决于会随时间变化的信息,RAG 在架构上通常比微调更合适。例如产品可用性、定价规则、政策更新、发布说明、支持文档以及内部流程。

借助 RAG,系统可以从索引或知识源中检索最新可用内容。这并不能保证答案永远正确,但可以避免只依赖模型的训练数据。

将 RAG 用于专有或内部知识

许多业务应用都要求模型基于公司特定材料来回答问题:销售赋能文档、人力资源政策、技术手册、标准操作流程,或客户支持文章。

RAG 可以在查询时将模型连接到这些材料。这让团队能够把知识保存在受管理的资料库中,而不是试图把一切都编码进模型权重里。

在需要引用或可追溯性时使用 RAG

如果用户需要看到答案来自哪里,RAG 往往是更好的起点。RAG 系统可以被设计成展示影响答案的源文档、段落或链接。

这对于企业搜索、合规审查、法律支持、技术支持以及其他用户需要证据而不是无依据文字的工作流程尤其有用。

不过,仍应仔细评估引用。系统可能检索到了相关文档,却仍生成夸大、误读或未完整利用这些文档的答案。检索质量、分块方式、排序、提示词设计以及模型行为都会影响可靠性。

将 RAG 用于知识密集型助手

RAG 非常适合用于能够围绕大型文档集合回答问题的助手。例如:

  • 客户支持知识库助手
  • 内部 IT 服务台机器人
  • 开发者文档助手
  • 政策与流程助手
  • 产品问答&工具
  • 研究与知识管理系统

在这些情况下,主要挑战往往不是教会模型一种新的风格,而是在正确的时间让模型访问正确的信息。

何时使用微调

当你能够通过高质量示例来定义期望行为,并且需要模型更稳定地执行某项任务时,微调是很合适的选择。

使用微调来获得一致的输出格式

如果模型反复无法生成应用所需的结构,微调可能会有所帮助。例如,你可能需要回复遵循特定的结构模式、分类标签集、数据抽取格式或工作流响应模板。

一开始,提示词往往可以解决这个问题。但如果格式复杂、重复性高,或对业务至关重要,微调可能会让模型在目标任务上的行为更加一致。

使用微调来塑造品牌语气或回复风格

当某种语气或写作风格可以通过示例来展示时,微调有助于让回复与这种期望风格保持一致。这对于面向客户的助手、销售赋能工具或内容运营工作流可能很有用。

关键要求在于示例质量。经过微调的模型会从展示给它的模式中学习。不一致或低质量的示例可能会导致结果不稳定。

使用微调来实现特定领域的任务行为

有些任务需要的不只是获取事实。它们还要求以一致的方式沿着工作流进行推理、应用标签、抽取结构化字段,或在预定义的回复类别中作出选择。

微调可用于:

  • 分类任务
  • 结构化抽取
  • 分流或初筛决策
  • 将内容改写为一致的格式
  • 应用特定领域的措辞
  • 遵循反复出现的任务专用指令

这并不意味着微调能保证完全准确。它的意思是,当期望的输出模式定义明确,并且在训练示例中得到体现时,微调可以成为一种有用的定制工具。

当提示变得重复或脆弱时使用微调

有些应用依赖很长的提示词,反复解释同一套行为规则。在某些情况下,微调可以减少每次提示都重申这些规则的需要。

不过,延迟和成本结果取决于具体实现。经过微调的模型可能会缩短提示长度,但总体影响取决于模型、供应商定价、流量、基础设施和应用设计。

何时将二者结合使用

RAG 和微调可以相互补充。

混合架构通常如下:

  1. RAG 会检索相关文档或数据。
  2. 提示词会把这些上下文提供给模型。
  3. 经过微调的模型会将一致的任务模式、语气、格式或决策流程应用于检索到的信息。

当应用既需要事实依据,又需要可预测的行为时,这会很有用。

例如,客服助手可以用 RAG 检索相关的产品文档,然后通过微调以一致的故障排查格式生成答案。政策助手可以检索最新的人力资源政策,并使用经过微调的模型,以面向员工的标准化风格进行总结。文档处理流程可以检索参考指南,并通过微调按照一致的架构提取字段。

当模型已经能够访问正确的信息,但仍然处理不好任务时,混合方法尤其有用。RAG 提供内容,微调则改进模型使用这些内容的方式。

决策矩阵:微调与 RAG

决策因素 在以下情况下,RAG 通常更适合…… 在以下情况下,微调通常更适合……
数据新鲜度 答案取决于当前信息或频繁更新的信息。 任务行为稳定,并不主要依赖不断变化的事实。
专有知识 模型必须使用内部文档、政策或产品数据。 模型需要遵循公司特定的行为、语气或格式。
事实依据 你需要基于检索来源的答案。 你需要模型针对某个定义明确的任务,以更可靠的模式作出回应。
输出一致性 检索提供所需事实,但格式可能仍需要通过提示词设计来控制。 主要问题在于结构、标签、语气或工作流执行不一致。
维护 你希望在无需重新训练的情况下更新源内容或索引。 你能够维护一套经过精选的训练集,并在行为要求变化时对其进行更新。
可审计性 用户需要来源引用,或需要追溯到具体文档。 用户主要需要一致的任务表现,而不是有来源支撑的答案。
评估重点 检索相关性、答案忠实度、引用质量和覆盖范围最重要。 任务准确性、格式遵循度、语气一致性和示例覆盖范围最重要。
延迟 检索会增加步骤,因此性能取决于搜索、排序和生成设计。 在某些情况下,微调可能减少提示词长度,但延迟取决于模型和部署方式。
安全与隐私 控制措施取决于数据源、检索层、供应商、部署方式和访问规则。 控制措施取决于训练流程、供应商、部署方式和数据处理政策。

这个矩阵是一份指南,而不是放之四海而皆准的规则。不能笼统地可靠断言 RAG 或微调总是更便宜、更快、更准确或更安全。这些结果取决于实现方式、模型选择、数据质量、流量模式、评估设计、供应商定价和运营要求。

常见误解

误解一:微调是添加新知识的最佳方式

微调可以影响模型从示例中学到的内容,但它通常不是管理大量不断变化的事实性知识的最佳方式。如果应用需要当前信息或专有信息,RAG 往往是更好的起点,因为它会在查询时从外部来源检索信息。

误解二:RAG 可以消除幻觉

RAG 可以改善事实依据,但并不能保证事实正确。如果检索没有找到正确文档、检索到不相关的上下文、内容分块不佳、段落排序错误,或提示词无法有效引导模型,RAG 系统仍然可能失败。模型也可能误解检索到的信息。

设计得当时,RAG 可以降低某些风险,但它并不是包治幻觉问题的灵丹妙药。

误解三:微调和 RAG 彼此排斥

二者可以结合使用。微软明确将它们视为可以协同工作的两种方法,许多实际架构也会用检索来为知识提供依据,用微调来定制行为。

误解四:某一种方法总是更便宜或更快

成本和延迟取决于具体细节。RAG 可能会增加检索、排序和上下文组装等步骤。微调在某些应用中可能会缩短提示词长度。但这些结果都不是必然的。定价、基础设施、模型选择、缓存、流量规模和供应商条款都会产生影响。

误解五:微调会自动提升每一项任务

微调取决于训练样本的质量和相关性。如果任务定义不清,或训练数据前后不一致,微调未必能解决问题。团队应先评估提示词设计、工具使用、检索质量或工作流程调整是否能解决该问题。

选择之前的评估清单

在决定采用 RAG、微调或混合方法之前,应建立一套能够反映真实使用情况的评估集。

应包括:

  • 具有代表性的用户问题或任务
  • 在可能的情况下,提供预期答案或黄金标准输出
  • 边界案例和含糊请求
  • 涉及过时、缺失或相互冲突信息的示例
  • 如果系统使用私有数据,应包括安全和访问控制场景
  • 用于评估答案质量的人工审核标准

对于 RAG 系统,应评估:

  • 检索器是否能找到正确的源内容
  • 分块是否保留了足够的上下文
  • 排序是否能将最佳段落置于前列
  • 生成的答案是否忠实于检索到的上下文
  • 引用或来源标注是否准确且有用
  • 系统是否能恰当地处理缺失信息

对于经过微调的系统,应评估:

  • 任务准确性
  • 格式遵循度
  • 语气与风格的一致性
  • 在训练期间未见过的示例上的表现
  • 边缘案例的失效模式
  • 模型是否能在不过度提示的情况下遵循期望的工作流程

对于混合系统,应将两层放在一起评估。高质量的检索器并不保证最终答案就好;而一个经过良好微调的模型,如果没有收到相关文档,也无法可靠地作答。

实务诊断:训练之前,先找出出错的环节

Viva Paradox编写了这个虚构的客服练习,帮助读者检验选择依据。输入和参考答案均为教学示例,不是模型的实测输出,也不是微调实验成果。

虚构产品名为DemoBox。已废止的文档R1规定普通备份保留30天。现行文档R2明确替代R1,规定保留14天。R2还把OUTAGE定义为“服务无法使用”,把DEGRADED定义为“服务可用但缓慢”。这些是练习规则,并非真实产品规格。

仅根据提供的现行参考文档回答:普通备份保留多久?返回含answer和source_id的JSON。没有参考文档时,应说明无法确定,不得用旧文档替代。

提供R2时的参考答案:answer应说明14天,source_id为R2。JSON语法正确并不够;回答30天仍然无法通过事实检查。

练习中观察到的错误 首先测试的修改 进一步投入前需要的证据
检索上下文中只有R1,回答为30天。 修正文档摄取、版本元数据、废止文档过滤和检索,再检查R2是否传给模型。 记录检索到的文档ID及版本。训练另一种文风不能修复过时的索引。
已有R2,正确回答14天,但在JSON外添加说明。 先尝试更明确的提示词、受支持的模式约束输出和应用端校验。 把解析或模式错误与事实错误分别记录。一次格式失败并不能证明需要微调。
已有R2,却反复把“可用但缓慢”标为OUTAGE而非DEGRADED。 检查标签定义与示例,对比提示词基线。只有任务错误持续存在且有合适标注数据时,再考虑微调。 使用未参与训练的案例测试。规则明确且可确定执行时,普通代码可能比训练分类器更简单。
用户收到了无权阅读的团队受限文档。 生成前,在检索层和应用逻辑中强制执行授权。 用权限不同的账户测试。拒绝提示词或微调都不能替代访问控制。

可以亲自执行的小规模比较

建立独立评估集,包含现行文档问题、缺少参考文档的问题、OUTAGE/DEGRADED分类案例及权限检查。比较前固定问题和参考答案,不要把评估案例复制进训练数据。比较三种生成方案时,在可行范围内保持评估输入、来源版本、检索配置和基础模型系列一致:(1)提示词加现行参考文档;(2)同一系统加改进指令或受支持的输出约束;(3)只有必要性得到证实时,才测试微调版本。记录无法避免的差异。检索和权限修复应单独测试,不要把它们的效果归因于训练。

逐例记录:是否检索到所需来源、答案是否有依据、结构是否有效、标签是否正确。另行记录权限检查失败、端到端延迟及成本。报告带分母的计数,并检查结果不一致的案例。单一总分可能掩盖“JSON始终有效,却使用过时事实”的系统。本练习不声称任何准确率、速度或成本改善数值。

选择能在未见案例上修复已观察错误的最小改动。需要变化中的事实时保留检索;存在已证实的行为问题时再考虑训练。混合方案是待评估的候选项,并非自动必需。

背景资料:Microsoft区分了用于私有或变化数据的检索,以及用于行为、风格和任务表现的微调。上述诊断案例是本站原创教学示例。

Microsoft:RAG与索引

若要复现检索与文档版本选择,可继续阅读本站RAG实践指南。