Ideas worth a closer look
VIVA PARADOX.Independent stories, clearly told.
Viva Paradox · ZH-HANS

什么是检索增强生成(RAG)?

Conceptual editorial artwork: 什么是检索增强生成(RAG)?

检索增强生成通常简称为 RAG,是一种将生成式模型与外部信息检索结合起来的 AI 架构:当用户提出问题时,系统会即时检索相关信息。RAG 系统不是只依赖模型在训练阶段学到的内容,而是查找相关文档、数据或知识片段,并在模型生成回答前把这些上下文提供给它。

通俗地说,如果你在问“什么是检索增强生成”,答案就是:RAG 是一种让生成式 AI 系统在回答问题时使用相关来源材料的方法。

最初的 RAG 研究论文将这种方法描述为:把预训练生成器与外部检索到的“非参数记忆”结合起来,用于知识密集型自然语言处理任务。论文结果适用于其评估的任务和实验设置,因此不应被视为对所有 RAG 系统或产品的保证。原始研究可参见《面向知识密集型 NLP 任务的检索增强生成》。

RAG 如何工作

一个实际的 RAG 工作流通常包括几个步骤。具体实现会因平台而异,但总体模式是一致的:检索相关信息,将其作为上下文提供给模型,然后生成答案。

1. 收集源内容

RAG 系统首先需要源材料。这些材料可能包括产品文档、内部政策、支持文章、研究笔记、常见问题或其他文本型知识。内容的质量和时效性很重要,因为模型只能使用系统能够检索到并传入提示词的内容。

2. 对内容进行分块和索引

大型文档通常会被拆分成较小的段落,常称为“分块”。这些分块会被建立索引,以便系统之后搜索。根据实现方式不同,索引可能涉及关键词搜索、嵌入、向量搜索、混合搜索、元数据过滤或其他检索技术。

例如,Microsoft 在 Azure AI Search 中描述的 RAG是一种模式:检索相关的已索引信息,并将其提供给生成式模型。Microsoft 的细节针对 Azure AI Search,但这种“先检索、再生成”的总体模式有助于更一般地理解 RAG。

3. 用户提出问题

当用户提交查询时,系统会在已索引内容中搜索相关文档或分块。目标是找到可能有助于回答问题的源材料。

4. 将相关上下文加入提示词

检索到的段落会被整理成上下文,并与用户问题及任何系统指令一起传给生成式模型。这是 RAG 与普通提示词方法的关键区别:模型在生成时会接收到最新的、面向具体任务的信息。

AWS 在Amazon Bedrock 知识库中描述了类似流程:源数据被分块并建立索引,系统检索匹配的分块,再将这些分块作为生成时的上下文加入。那些实现细节只适用于 Amazon Bedrock,并非每个 RAG 系统的通用要求。

5. 模型生成答案

最后,模型利用提示词和检索到的上下文生成回答。一些 RAG 系统还会包含引用、来源链接、访问控制检查、验证步骤或后处理。这些功能可以提升可用性和治理能力,但必须经过谨慎设计和评估。

为什么 RAG 重要

RAG 之所以重要,是因为许多业务和产品场景需要的信息可能是最新的、专有的或特定领域的。通用语言模型的训练数据中未必包含这些信息;即使包含,也可能已经过时或不完整。

RAG 可以帮助把生成式 AI 界面连接到组织已经维护的信息。例如,一家公司可以用 RAG 让员工查询内部文档,或帮助客户在支持知识库中找到答案。

这并不意味着 RAG 能保证事实准确。RAG 系统仍可能检索到错误内容、漏掉最佳来源、使用过时信息,或生成与检索上下文不完全一致的答案。RAG 可以减少对模型内部记忆的依赖,但不能消除幻觉风险。

RAG 与标准 LLM 提示词

标准 LLM 提示词通常依赖三类信息:用户的问题、提示词中包含的指令,以及模型既有的学习模式。如果必要信息不在提示词中,或没有被模型训练可靠地覆盖,答案就可能不完整或不正确。

RAG 增加了一个检索步骤。在模型回答之前,系统会搜索外部内容并提供相关上下文。这可以让回答更扎根于特定来源材料,尤其是在答案依赖模型内置知识之外的信息时。

一个简单对比:

方法 工作方式 最适合的场景
标准提示词 模型基于提示词和既有学习知识作答 通用写作、头脑风暴、对已提供文本进行总结
RAG 系统检索相关外部内容,并将其作为上下文提供给模型 依赖最新、专有或领域特定信息的问题

RAG 与微调

RAG 和微调经常被放在一起讨论,但它们解决的是不同问题。

微调通过额外训练来修改或适配模型。当组织希望模型遵循某种风格、格式、领域行为或任务模式时,微调可能很有用。相比之下,RAG 在查询时检索信息,不一定改变模型参数。

在很多情况下,RAG 的吸引力在于:知识更新可以通过修改已索引的源内容来完成,而不必重新训练模型。比如政策发生变化时,系统可以更新相关文档和索引。假设摄取和检索管道运行正常,下一次回答就可以检索到更新后的材料。

不过,RAG 并不总是优于微调。最佳方法取决于用例、可用数据、成本、延迟要求、安全需求和评估结果。有些系统可能使用 RAG、微调,或两者并用。

RAG 的常见用例

RAG 常用于用户需要基于某一特定知识集合获得答案的应用。例子包括:

  • 企业搜索:员工跨内部文档、政策和知识库提问。
  • 客户支持聊天机器人:聊天机器人在回答前检索相关帮助文章或支持文档。
  • 文档助手:开发者、客户或内部团队围绕技术文档提问。
  • 政策与流程问&答:员工搜索人力资源、法律、合规或运营文档。
  • 研究助手:用户从选定的研究语料中检索并总结相关材料。
  • 产品知识助手:销售、支持或产品团队查询已批准的产品信息。

在受监管或敏感环境中,这些用例需要认真处理访问控制、隐私、留存和合规义务。RAG 不会自动解决这些要求。

RAG 的好处

如果设计得当,RAG 可以带来几项实际优势。

可以让答案扎根于来源材料

由于系统在生成回答前会检索内容,模型可以把特定文档或段落作为上下文使用。当答案需要反映已批准文档或内部知识时,这一点尤其有用。

可以支持最新或专有信息

模型的训练数据可能不包含公司的最新政策、产品更新或内部知识。RAG 可以把模型连接到在模型之外维护的已索引来源。

可以减少每次知识更新都重新训练的需求

如果主要问题是访问不断变化的信息,那么更新内容索引通常比每次信息变化都重新训练或微调模型更实际。

加入引用时可以提高透明度

一些 RAG 系统会展示用于生成答案的文档或段落。引用不能保证正确性,但可以帮助用户检查来源材料,并评估答案是否有依据。

局限与风险

RAG 很强大,但它不是一个能让生成式 AI 自动可靠的神奇层。常见局限包括:

源数据质量差

如果已索引内容不准确、不完整、重复或过时,系统可能会检索并使用糟糕的信息。RAG 高度依赖其知识库质量。

检索能力弱

如果检索系统找不到相关信息,模型就无法使用这些信息。分块、索引、元数据、查询处理和排序都会影响检索质量。

幻觉和上下文误用

即使检索到了相关内容,模型仍可能生成缺乏依据或部分错误的答案。单靠检索并不能确保模型会正确使用检索到的上下文。

安全与访问控制问题

RAG 系统可能连接到敏感的内部数据。组织需要确保用户只能检索其有权访问的信息。具体要求会因组织、行业和司法辖区而异。

延迟与成本

RAG 会在生成过程中增加多个步骤,包括搜索、检索、上下文组装和模型推理。这些步骤可能影响响应时间和运营成本。

评估挑战

要衡量 RAG 系统是否能稳定检索到正确证据并生成准确答案,可能并不容易。评估应包含真实的用户问题,而不只是简单演示。

如何评估 RAG 系统

在将 RAG 部署到业务工作流之前,需要同时评估检索质量和生成质量。可以提出的问题包括:

  • 系统是否能针对真实用户问题检索到最相关的源材料?
  • 答案是否忠实于检索到的上下文?
  • 当信息不足时,系统是否会说明这一点?
  • 引用或来源参考是否准确且有用?
  • 已索引内容是否保持最新并得到维护?
  • 访问控制是否被正确执行?
  • 典型查询和复杂查询的延迟是多少?
  • 系统在边界情况、模糊问题或信息缺失时表现如何?
  • 组织将如何持续监测质量?

扎实的 RAG 评估不应只看答案是否流畅。它还要检查答案是否有依据、是否有用、是否安全,以及是否适合预期工作流。

关键结论

检索增强生成是一种将生成式 AI 连接到外部知识的实用架构。RAG 系统检索相关信息,将其作为上下文提供给模型,并使用生成式模型产出答案。

RAG 可以帮助组织构建能够处理最新、专有或领域特定内容的 AI 系统。但结果取决于实现质量、源数据、检索性能、安全控制和持续评估。RAG 可以增强依据性,但不能保证准确,也不能消除幻觉。

动手运行:区分旧版检索与依据缺失

本虚构商店练习在生成答案前检查检索。我们实际执行了下方脚本,并原样记录输出。脚本不使用语言模型、嵌入、网络或真实商家条款,并非完整RAG系统或模型性能测试。

文档与问题

两个退货规则版本被刻意写得相似。returns-v1为旧版,期限14天;returns-v2为当前版,期限7天。第三份文档讲配送。示例假设商品未使用、有收据,已经过10天。current是手动提供的元数据,不是真伪自动识别功能。

用Python 3复制运行

保存为rag_demo.py并执行python3 rag_demo.py。除Python 3外无需安装或API密钥。为确保实验一致,各语言版的测试资料和输出标签都保留英文。

"""Fictional retrieval/version exercise, not a full RAG or model benchmark."""
import re
DOCUMENTS = [
    {'id': 'returns-v1', 'current': False,
     'text': 'Return requests for unused items: 14 days; receipt required.'},
    {'id': 'returns-v2', 'current': True,
     'text': 'Return requests for unused items: 7 days; receipt required.'},
    {'id': 'shipping-v1', 'current': True,
     'text': 'Standard shipping takes 3 to 5 business days.'},
]
QUERY = 'return unused receipt'
def words(text):
    return set(re.findall(r'[a-z]+', text.lower()))
def retrieve(documents, current_only):
    candidates = [d for d in documents if not current_only or d['current']]
    ranked = sorted(candidates,
                    key=lambda d: len(words(QUERY) & words(d['text'])),
                    reverse=True)
    # Python's stable sort leaves the earlier document first on a tie.
    if not ranked or not (words(QUERY) & words(ranked[0]['text'])):
        return None
    return ranked[0]
def inspect(label, document, elapsed_days=10):
    if document is None:
        print(label + ': no_evidence')
        return
    match = re.search(r'(\d+) days;', document['text'])
    if not match:
        print(label + ': no_return_rule')
        return
    window = int(match.group(1))
    # Only this fictional unused-item-with-receipt case is evaluated.
    result = 'within_window' if 0 <= elapsed_days <= window else 'outside_window'
    print(f"{label}: {document['id']} window={window} day={elapsed_days} {result}")
def main():
    inspect('unfiltered', retrieve(DOCUMENTS, False))
    inspect('current_only', retrieve(DOCUMENTS, True))
    inspect('shipping_only', retrieve([DOCUMENTS[2]], True))
if __name__ == '__main__':
    main()

实际运行输出

unfiltered: returns-v1 window=14 day=10 within_window
current_only: returns-v2 window=7 day=10 outside_window
shipping_only: no_evidence

各个场景哪里出了问题

不加过滤时,两份退货规则的关键词得分相同。稳定排序在同分时保留输入顺序,因此选中旧规则,把第10天判为期限内。先过滤当前文档则选中7天规则,第10天变成期限外。不是计算更聪明,而是使用的依据变了。

只有配送文档时,没有查询词匹配,输出no_evidence。在本练习中应停止并请求缺失的退货规则,而不是编造期限。这里的关键词匹配刻意简化;实际检索可能漏掉同义词,也可能把无关文档排在前面。

改变输入试试

把DOCUMENTS顺序反转。同分顺序改变后,无过滤方式也会选中新规则。这种改善很脆弱,而明确的current过滤仍选returns-v2。把两份退货文档都设为current=False,过滤检索便没有退货依据。把inspect的elapsed_days改为7,则包含边界日;8则在期限外。

应用到真实RAG流程

看生成答案之前,记录问题、检索片段、文档ID、版本与有效状态。若检索到旧版,检查资料维护和过滤;若输入正确而答案更改期限或引用配送文档,则分别检查生成和引用依据。current字段只有在采集流程正确维护时才有用。

本测试不能证明什么

输出的期限判断只是针对未使用且有收据情形的程序比较,并非AI生成答案或退货批准。它不测试改写问题、权限、政策冲突、生效日期、已开封商品或生产准确率。接入模型后,仍应把每项主张与引用对照实际传入的片段。