RAG 通过检索现有知识与生成模型结合，解决大模型知识局限、滞后、幻觉及安全问题。本文阐述 RAG 面临的挑战，介绍 Naive、Advanced 及 Modular 三种通用范式，并提供工程实践路径。重点讲解知识切片、索引优化、Query 改写、多路召回及后置处理等优化策略，旨在提升 RAG 系统的检索精度与生成质量。
RAG 通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细介绍 RAG 遇到的挑战、通用范式、工程实践及优化实现策略。
随着 ChatGPT 的兴起，大语言模型再次走进人们的视野，其在 NLP 领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。
通义系列、GPT 系列、LLama 系列等模型，在语言交互场景下表现十分抢眼。以 Gemini 为代表这类大模型甚至发展出了视觉和听觉，朝着智能体的方向演化。他们在多个指标上展现的能力甚至已经超过了人类。
然而，大型语言模型也存在诸多不足：
知识的局限性： 模型知识的广度获取严重依赖于训练数据集的广度，目前市面上大多数的大模型的训练集来源于网络公开数据集，对于一些内部数据、特定领域或高度专业化的知识，无从学习。
知识的滞后性： 模型知识的获取是通过使用训练数据集训练获取的，模型训练后产生的一些新知识，模型是无法学习的，而大模型训练成本极高，不可能经常为了弥补知识而进行模型训练。
幻觉问题： 所有的 AI 模型的底层原理都是基于数学概率，其模型输出实质上是一系列数值运算，大模型也不例外，所以它有时候会一本正经地胡说八道，尤其是在大模型自身不具备某一方面的知识或不擅长的场景。而这种幻觉问题的区分是比较困难的，因为它要求使用者自身具备相应领域的知识。
数据安全性： 对于企业来说，数据安全至关重要，没有企业愿意承担数据泄露的风险，将自身的私域数据上传第三方平台进行训练。这也导致完全依赖通用大模型自身能力的应用方案不得不在数据安全和效果方面进行取舍。
为了解决纯参数化模型的局限，语言模型可以采取半参数化方法，将非参数化的语料库数据库与参数化模型相结合。这种方法被称为 RAG（Retrieval-Augmented Generation）。
RAG 通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。然而，尽管 RAG 有其独特的优势，但在实践过程中也遭遇了多个挑战。
在 RAG 模型中，检索阶段的输出直接影响到生成阶段的输入和最终的输出质量。如果 RAG 数据库中存在大量的错误信息并被检索，这可能引导模型走向错误的方向，即使优化检索阶段做大量的工作，可能对结果的影响也微乎其微。
为了实现高效的文档检索，通常需要将原始的文本数据转化为数值向量，这一过程又称为数据向量化。数据向量化的目的是将文本数据映射到一个低维的向量空间中，使得语义相似的文本在向量空间中的距离较近，而语义不相似的文本在向量空间中的距离较远。然而，数据向量化也会导致一定程度的信息损失，因为文本数据的复杂性和多样性很难用有限的向量来完全表达。因此，数据向量化可能会忽略一些文本数据的细节和特征，从而影响文档检索的准确性。
在 RAG 中，语义搜索是指根据用户的问题，从文档集合中检索出与问题语义最相关的文档，这一过程又称为数据召回。语义搜索的难点在于如何理解用户的问题和文档的语义，以及如何衡量问题和文档之间的语义相似度。目前，语义搜索的主流方法是基于数据向量化的结果，利用向量空间中的距离或相似度来度量语义相似度。然而，这种方法也存在一些局限性，例如向量空间中的距离或相似度并不一定能反映真实的语义相似度，而且向量空间中的噪声和异常值也会干扰语义搜索的结果。因此，语义搜索的准确率也无法有 100% 的保证。
原始 RAG 是最早的研究范式，主要包括以下几个步骤：
建立索引： 这一过程通常在离线状态下进行，数据清洗并分块，将分块后的知识通过 embedding 模型产出语义向量，并创建索引。
检索： 用户的 query 问题，使用相同的 embedding 模型，计算问题嵌入和文档块嵌入之间的相似度，选择相似度最高的前 K 个文档块作为当前问题的增强上下文信息。
生成： 将给定的问题和相关文档合并为新的提示，然后由大型语言模型基于提供的信息回答问题。如果有历史对话信息，也可以合并到提示中，用于多轮对话。
（此处应有 RAG 流程图）
初级 RAG 主要在三个方面面临挑战：检索质量低、生成质量差和增强过程难。
检索质量低： 首先使用长文本做索引，不能很好的突出主题，建立索引时，核心知识湮没在大量无用的信息中，其次，使用用户原始 query 做检索，不能很好的突出其核心诉求，这就导致用户 query 和知识索引不能很好的匹配，检索质量比较差。
生成质量差： 未检索到知识或检索知识质量差时，大模型自主回答私域问题时，容易产生幻觉，或回答内容比较空洞，无法直接使用，知识库失去了本身的意义。
增强过程难： 将检索到的信息与不同任务整合可能具有挑战性，有时会导致输出不连贯或不一致。此外，还有一个担忧是生成模型可能过度依赖增强信息，导致输出仅仅是复述检索内容而没有添加有洞察力或综合信息。
要解决上面的问题，需要在检索前和检索后做一些优化，这就衍生出了高级 RAG 的解决方案。
高级 RAG 相比于初级 RAG，基于初级 RAG 范式，围绕着知识检索做优化，新增了检索前、检索中以及检索后的优化策略，用于解决索引、检索和生成的问题。
（此处应有 Advanced RAG 结构图）
检索前优化
检索前优化集中在知识切分、索引方式和 query 改写的优化上。
知识切分主要把较长的文本按照语义内聚性的分析切成小块，解决核心知识湮没以及语义截断的问题。
索引方式优化技术通过优化数据索引组织方式提升检索效果。比如去除无效数据或插入某些数据来提高索引覆盖程度，从而达到与用户问题的高匹配度问题。
query 改写主要需要理解用户想表达的意图，把用户原始的问题转换成适合知识库检索的问题，从而提高检索的精准程度。
检索优化
检索阶段的目标是召回知识库中最相关知识。
通常，检索基于向量搜索，它计算查询与索引数据之间的语义相似性。因此，大多数检索优化技术都围绕嵌入模型展开：
微调嵌入模型，将嵌入模型定制为特定领域的上下文，特别是对于术语不断演化或罕见的领域。例如，BAAI/bge 是一个高性能的嵌入模型，可以进行微调。
动态嵌入根据单词的上下文进行调整，而静态嵌入则为每个单词使用单一向量。例如，OpenAI 的 embeddings-ada-02 是一个复杂的动态嵌入模型，可以捕获上下文理解。
除了向量搜索之外，还有其他检索技术，例如混合搜索，通常是指将向量搜索与基于关键字的搜索相结合的概念。如果您的检索需要精确的关键字匹配，则此检索技术非常有益。
检索后优化
对检索到的上下文进行额外处理可以帮助解决一些问题，例如超出上下文窗口限制或引入噪声，从而阻碍对关键信息的关注。在 RAG 调查中总结的检索后优化技术包括：
提示压缩：通过删除无关内容并突出重要上下文，减少整体提示长度。
重新排序：使用机器学习模型重新计算检索到的上下文的相关性得分。
随着 RAG 技术的进一步发展和演变，新的技术突破了传统的检索 - 生成框架，基于此催生了模块化 RAG 的概念。在结构上它更加自由的和灵活，引入了更多的具体功能模块，例如查询搜索引擎、融合多个回答。技术上将检索与微调、强化学习等技术融合。流程上也对 RAG 模块之间进行设计和编排，出现了多种的 RAG 模式。
然而，模块化 RAG 并不是突然出现的，三个范式之间是继承与发展的关系。Advanced RAG 是 Modular RAG 的一种特例形式，而 Naive RAG 则是 Advanced RAG 的一种特例。
（此处应有 Modular RAG 演进图）
搜索模块： 与相似度检索不同，这部分可以被应用于特定的场景并在一些特殊语料上进行检索。一般使用向量、分词、NL2SQL 或 NL2Cypher 等能力进行检索。
预测模块： 这个技术减少用户问题中的冗余和噪声，更加突出用户真实的意图。该模块不是直接进行检索，而是利用 LLM 来生成必要的上下文。与通过直接检索获得的内容相比，LLM 生成上下文后检索得到的内容更有可能包含相关信息。
记忆模块： 多轮对话的留存，以便下次会话时，能知道之前用户问了哪些问题。
融合模块： RAG-Fusion 使用 LLM 将用户查询扩展为多个查询。这个方法不仅捕捉了用户需要的显示信息，也揭示了更深层次的知识。融合过程包括对原始查询和扩展查询的并行向量搜索，智能重排序，并得到最佳搜索结果。这种复杂的方法确保了搜索结果与用户的显式和隐含的意图保持紧密一致，从而能找到更深刻和更相关的信息。
路由模块： RAG 系统的检索流程使用了各种来源的内容，包含不同领域、语言、形式。这些内容都可以根据需要进行修改或合并。查询路由器还为查询选择适当的数据库，其中可能包括各种来源内容，如向量数据库、图数据库或关系数据库，或层次结构索引。开发者需要预先定义好查询路由器的决策方式，并通过 LLM 调用执行，它将查询指向所选的索引。
任务适配器模块： 根据任务定制化 Adapter。
基于上面六大模块，可快速组合出属于自己业务的 RAG，每个模块高度可扩展，灵活性极大。
比如：
RR 模式，即可构建出传统的 Naive RAG；
RRRR 模式可构架出 Advanced RAG；
还可以实现基于检索结果和用户评价的奖惩机制，用户强化和纠正检索器的行为。
（此处应有技术架构图）
我们实践的 RAG 技术架构主要可分为一底座三中心，分别是数据管理底座、模型中心、多引擎中心、召回策略中心。
在工程架构上，每个子系统按照能力划分子 Modular，在上层配置调度策略并统一调度，符合 Modular RAG 的技术规范；
在检索技术上，围绕着检索做了大量的索引降噪、多路召回、知识去重、重排等操作，符合 Advanced RAG 的技术规范。
基础数据底座中包含数据生产和数据加工的能力。
数据生产中有数据版本、血缘管理、引擎同步等能力，
知识加工主要包含数据切片、索引优化等能力
模型中心主要包含生成式大模型和理解式小模型。
生成式大模型主要提供：
引用式生成的能力，通过检索到的知识和用户的问题，做增强生成；
query 改写能力，理解用户真实意图，并改写或泛化成适合知识库检索的 query；
Text2Cypher 能力，把知识库元数据和用户的问题，转成图谱语言，支撑上层业务的图谱检索；
NL2SQL 能力，如果业务中有需要访问数据库来获取具体数据的场景，可提供此能力；
理解式小模型主要提供：
文档切块能力，负责把大块的知识切分成小的片段；
embedding 能力，把知识库元数据和用户的问题转成向量；
rerank 能力，负责把多路召回的数据；
多引擎中心包含向量、分词以及图谱引擎，在引擎中心提供多种检索方式，以提高知识的命中率。
召回策略中心在整个 RAG 建设中起到调度的作用，在这里去执行 query 改写、多路召回、检索后置处理以及大模型引用式生成答案。
基于上面的一底座两中心架构，每个子能力模块化，并在上层配置调度策略，符合 Modular RAG 的技术规范。
（此处应有建设路径图）
RAG 整体业务链路主要分为 5 大步骤：知识生产与加工、query 改写、数据召回、后置处理以及大模型生产。
第一阶段保证系统可用。
知识生产与加工
先按照固定字符切分，预留冗余字符来保证语义不被截断。
query 改写
结合上下文，先使用大模型的理解能力，突出用户意图，以便更好的回答用户问题。
数据召回
第一步可以先实现向量召回，多路召回中，向量召回的比重是最大的，也是最关键的一种召回方式，需要找一个和自己业务比较契合的 embedding 模型和向量数据库。
数据后置处理
因为数据召回只有向量召回，这一步可以只使用向量近似得分做排序，设置符合业务预期的阈值筛选数据。并把筛选后的知识数据提供给大模型，生成答案。
第二阶段的主要目标是提升 RAG 的检索效果。
知识生产与加工
基于固定字符的知识切分，虽然预留了冗余字符，但还是会出现知识内聚性被破坏的现象，此时需要有一个基于语义切分知识的模型，根据语义切分，上下文联系比较紧密的句子拆分成一条知识。
根据数据检索的情况，分析索引噪音，指定降噪措施。
query 改写
明确用户意图。
探索 RAG-Fusion 模式，根据用户的 query 生成多个相似 query，多相似 query 检索数据。
多任务 query 抽取，把一个 query 任务，拆分成多个子 query 进行检索数据。
数据召回
数据后置处理
数据去重合并。
多路召回结果的重排能力建设，设置统一的排序筛选标准。
第三阶段的主要目标是在工程上提升可扩展性，各个业务功能做模块化设计，通过召回策略配置中心，配置出业务所需要的 RAG 流程。
文档片段过长会给知识检索造成很大影响，主要有两部分的问题：
1）索引混淆：核心关键词被湮没在大量的无效信息中，导致建立的索引，核心知识占的比重比较小，无论时语义匹配、分词匹配还是图谱检索，都很难精准命中关键数据，从而影响生成答案的质量；；
2）token 过长导致语义会被截断：知识数据在 embedding 时，可能会因为 token 超长导致语义截断；知识检索结束后，知识片段越长，输入给大模型的信息条数就越少，导致大模型也无法获取足够的有价值的输入，从而影响生成答案的质量。
按固定字符拆分知识，通过设置冗余字符来降低句子截断的问题，使一个完整的句子要么在上文，要么在下文，这种方式能尽量避免在句子中间断开的问题。
这种实现方式成本最低，在业务起步阶段，可以先使用这种方式。
（此处应有固定字符切分示意图）
按固定字符切，有时候会遇到句子含义联系比较紧密的片段被切分成了两条数据，导致数据质量比较差。可以通过语义理解小模型进行句子拆分，使拆分出来的知识片段语义更加完整。
原始的文档和用户问题一对一匹配，会存在匹配容错率低的问题，一旦知识一次没匹配上，那就无法被召回。
优化方案
处理后的知识数据，为了提高知识的覆盖范围，可针对知识数据预先用大模型生成一些有关联的假设性问题，当命中这些假设性问题时，也可搜索到相应的知识数据。
（此处应有 HyDE 示意图）
索引降噪主要根据业务特点，去除索引数据中的无效成分，突出其核心知识，降低噪音的干扰。针对 QA-pair 对和文章片段的知识，处理起来的方法也类似。
QA-pair 对类型知识
这种数据一般会以 Q 作为索引列，与用户的问题组成 QQ 搜索模式，这样数据召回时匹配难度会低。如果使用原始的 Q 做索引，又会存在无效此干扰的问题，比如：
| 用户 query | 匹配到的 query |
|---|---|
| How can I start to sell on Alibaba? | How can I register an account on Alibaba.com? |
句子中，无效的相似成分超过 60%，这就会对索引匹配造成很大的干扰。
优化方案
通过大模型泛化向量索引中的 Q，突出核心关键词，并且把对应的 Answer 的主题利用大模型抽取，Q 和 A 都突出关键词。
How can I register an account on Alibaba.com? --> register an account. + Answer 主题。
突出核心主题，降低无效数据的干扰。
文章片段类知识
文章片段类知识，由于篇幅长，且在语义上与问题可能差异较大，导致无法很好的匹配。
优化方案
会通过 HyDE 生成假设性问题，然后组成 QA-pair 对的形式，然后再利用大模型抽取核心关键词，用来降噪。
近似检索和传统数据库检索不同，近似检索通过聚类或 HNSW 建立索引后，在检索时，会有一定的近似误差，如果在大量的知识库中检索，会产生检索准确度和性能的问题，在大型数据库的情况下，一种有效的方法是创建两个索引——一个由摘要组成，另一个由文档块组成，并分两步搜索，首先通过摘要过滤掉相关文档，然后只在这个相关组内搜索。
（此处应有分级索引示意图）
直接使用原始 query 进行检索，会存在以下几个问题：
1）知识库内的数据无法直接回答，需要组合知识才能找到答案。
2）涉及细节比较多的问题时，大模型往往无法进行高质量的回答。
业务提出了 RAG-Fusion 和 Step-Back Prompting 的两种优化方案。
RAG-Fusion 可以认为是 MultiQueryRetriever 的进化版，RAG-Fusion 首先根据原始 question 从不同角度生成多个版本的新 question，用以提升 question 的质量；然后针对每个 question 进行向量检索，到此步为止都是 MultiQueryRetriever 的功能；与之不同的是，RAG-Fusion 在喂给 LLM 生成答案之前增加了一个排序的步骤。
RAG-Fusion 主要流程如下图所示：
查询生成/改写： 使用 LLM 模型对用户的初始查询，进行改写生成多个查询。
向量搜索： 对每个生成的查询进行基于向量的搜索，形成多路搜索召回。
倒数排序融合： 应用倒数排名融合算法，根据文档在多个查询中的相关性重新排列文档。
重排: 使用一些重排算法对结果进行重排。
输出生成： 然后可以参考重新排列后的 topK 搜索结果，生成最终输出。
（此处应有 RAG-Fusion 流程图）
排序包含两个动作，一是独立对每个 question 检索返回的内容根据相似度排序，确定每个返回 chunk 在各自候选集中的位置，相似度越高排名越靠前。二是对所有 question 返回的内容利用 RRF（Reciprocal Rank Fusion）综合排序。
（此处应有 RRF 排序示意图）
通过引入一个后退一步的问题，这个问题通常更容易回答，并且围绕一个更广泛的概念或原则，大型语言模型可以更有效地构建它们的推理。
Step-Back Prompting 过程典型的 Step-Back Prompting 过程主要包括两个步骤：
1）抽象：这是指大型语言模型（LLM）不会立即尝试回答原始问题。相反，它会提出一个关于更大的概念或规则的更一般性问题。这有助于它思考和查找事实。
2）推理：在得到一般问题的答案后，大型语言模型（LLM）使用这些信息来思考并回答原始问题。这被称为'抽象基础推理'。它利用来自更大观点的信息来对原始的、更难的问题给出一个好的答案。
示例
比如问：如果一辆汽车以 100 公里/小时的速度行驶，行驶 200 公里，需要多长时间？
此时大模型对数学计算可能会比较迷茫。
后退提示：给定速度和距离，计算时间的基本公式是什么？
输入：为了计算时间，我们使用以下公式：时间=距离/速度
使用公式，时间=200 公里/100 公里/小时=2 小时。
当用户问一个问题时，有些停用词是不起作用的，比如：How to register an account on Alibaba.com，在这个语境中，核心诉求是 register an account，至于 How to 在表达核心诉求时，意义没那么大，其次，当下沉 Alibaba 的外贸业务时，on Alibaba.com 也变得没那么重要，因为 Alibaba 的外贸业务系统就是运行在 Alibaba.com 上，知识库中的知识自然也是 Alibaba.com 相关的。
可以针对用户问题，去除停用词，比如 ES 中维护了一份停用词库，可直接使用。如果解决方案中没有 ES，也可自己维护停用词库，在 nltk、stopwords-iso、Rank NL、Common Stop Words in Various Languages 等开源库中维护了大量的停用词库，可根据需要取用。
在 NLP 领域，向量召回一直处于无可替代的地位，把自然语言转换成低纬度向量，基于向量的相似度来评判语义的相似程度，这也是业界比较流行的做法。再结合上面提到的向量索引的降噪、假设性性问题以及对用户 query 的优化，一般都能取得比较不错的成绩。
（此处应有向量召回示意图）
但单纯的语义向量召回时，当文本向量化模型训练不够优时，向量召回的准确率会比较低，此时需要利用其他召回方式作为补充。
除了向量召回，常见的召回方式还有分词召回以及图谱召回。
传统的倒排索引检索，基于 BM25 打分排序机制，从而找到从分词上比较相似的知识数据。结合上面提到的去除停用词策略，以达到比较精准的程度。
（此处应有分词召回示意图）
知识图谱在知识生产和关系提取上有着独特的优势，他能基于现有的数据，根据其关系的抽象，产生新的知识。
比如现在有两条知识：
1）阿里巴巴在国内采用 A 公司的物流服务。
2）阿里巴巴与物流公司 B 达成合作，为客户提供更加优质、便捷的物流服务。
上面两条知识经过 NL2Cypher 抽取：
alibaba-logisticsServices-A
alibaba-logisticsServices-B
基于这两条知识，可产生一条新知识：alibaba-logisticsServices-A & B
当用户问阿里巴巴平台支持哪些物流服务时，可直接找到 A & B。
在 NLP 领域，单纯的语义向量召回时，当文本向量化模型训练不够优时，向量召回的准确率会比较低，此时需要利用其他召回作为补充。一般业务会采用多路召回的方式，来达到比较好的召回效果，多路召回的结果经过模型精排，最终筛选出优质结果。至于使用几种召回策略，根据业务而定。
（此处应有多种召回示意图）
首先多路召回可能都会召回同一个结果，针对这部分数据要去重，否则对大模型输入的 token 数是一种浪费。
其次，去重后的文档可以根据数据切分的血缘关系，做文档的合并。
比如检索到的 D1、D2、D3 都来自同一个父知识片段 D，则使用 D 替换 D1、D2、D3，以保证有比较好的知识语义完整性。
（此处应有文档合并示意图）
每种召回策略的排序打分模型有差异，在最终统一的数据筛选层面，要有统一的评判标准。
目前，可用的重新排序模型并不多。一种选择是 Cohere 提供的在线模型，可以通过 API 访问。此外，还有一些开源模型，如 bge-reranker-base 和 bge-reranker-large 等，根据业务需要择优选择。
RAG 想做出来比较容易，但想做好还是比较难的，每个步骤都有可能对最终效果产生影响。
我们在 RAG 中也做了大量的探索，比如：
知识切分方面，做了固定字符切分的效果验证，分析索引噪音点，利用大模型做了大量的降噪处理；
在 query 改写方面，利用大模型做了更加明确的意图抽取，并对用户的 query 进行降噪的探索；
在数据召回方面，embedding 模型基于 bge、voyage 和 cohere 做了大量的测评，探索向量 + 分词的召回策略；
在后置处理优化上，做了知识的去重以及 rerank 的探索等。
RAG 的发展会越来越迅速，只要知识依赖和知识更新的问题没有得到解决，RAG 就有其存在的价值和一席之地。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
