RAG 有助于提高 AI 生成的回复的准确性和相关性，从而使 AI 系统在各种应用程序中更加可靠和高效。

要点

• RAG 在 AI 中的历史和发展反映了一个更广泛的趋势，即向更智能、更具上下文感知能力的系统发展，这些系统能够有效地将大量信息与复杂的生成功能相结合。

• RAG 体系结构通过以检索到的外部知识作为预训练生成的基础，使 AI 系统能够生成更有依据、更可靠的内容。
   
• RAG 的优势使其成为一种强大的技术，可用于创建更准确、更可靠、更通用的 AI 系统，并在各个领域、行业和任务中得到广泛应用。
   
• 开发人员使用 RAG 来构建可生成基于准确信息的内容的 AI 系统，从而开发出更可靠、更具上下文感知能力且更以用户为中心的应用程序。
   
• RAG 系统将检索与生成相结合，使其成为适用于各种应用程序、行业和用例的强大工具。
   
• 随着 RAG 模型的不断进步，它们有望在各种应用程序（从客户服务到研究和内容创作）中发挥至关重要的作用。
   
• 通过增强检索和生成过程的集成，RAG 将在未来的 LLM 中发挥关键作用。

RAG：机制、历史和影响

RAG 的工作原理

检索增强生成 (RAG) 是一种 AI 框架，它结合了两种技术；首先，它从数据库、文档或 Web 等外部源检索相关信息。收集到相关信息后，就会将其用于指导和增强生成的回复。这种方法充分利用了检索和生成技术的优势，确保了回复的准确性和相关性，并通过最新的具体信息丰富了上下文。这种双重能力使得 RAG 系统能够生成比纯生成模型更有依据、更细致的输出。

RAG 的历史

RAG 源自早期的基本信息检索系统。随着生成式 AI 技术的快速发展以及 GPT-2 和 BERT 等生成式语言模型的出现，对更准确、更相关的回复的需求也逐渐增加。   2020 年，RAG 体系结构被引入，标志着一项重大进步。通过使用机器学习将检索器和生成器模块相结合（将 LLM 的内部知识库与外部知识源集成），RAG 能够生成更准确、最新、连贯且上下文准确的文本。   RAG 模型以深度学习为核心，可以进行端到端训练，从而实现优化回复的输出，随着模型学会检索最可靠且上下文相关的有用信息，生成内容的质量会逐渐提升。

RAG 对 AI 的重要性

RAG 在提升 AI 能力方面发挥着至关重要的作用，它反映了一种趋势，即系统更智能、更具上下文感知能力，能够有效地将大量信息与复杂的生成功能相结合。以下是 RAG 成为 AI 基础的主要原因：
 

• 提高了准确性：通过集成外部知识源，RAG 显著提高了 LLM 生成的回复的准确性和相关性。

• 上下文相关性：RAG 允许 AI 系统通过检索与请求相关的特定信息，生成更加符合上下文的回复。
   
• 成本效益：实施 RAG 比持续使用新数据重新训练 LLM 更为高效。 
   
• 透明度：RAG 可提供回复中所使用信息的来源，提高了可信度和信任度。
   
• 多功能性：RAG 可应用于各个行业，如医疗保健、教育和金融行业，也可用于多种用途，如客户服务、研究和内容创作。
   
• 改善了体验：通过提供更准确、更相关的回复，RAG 技术可为用户带来更满意、更高效的交互。

RAG 体系结构

RAG 系统的体系结构由两个主要模块和一个融合机制组成，它们协同工作，生成准确且上下文相关的输出。RAG 模块可以进行端到端训练，使算法能够联合优化检索和生成，从而生成更有依据、更可靠的结果。

以下是 RAG 体系结构的工作原理：

检索器模块可在大型数据集中进行搜索，以查找与查询最相关的信息片段。

检索完成后，生成器模块会将检索到的信息作为额外的上下文，生成一致且相关的回复。通常，生成器模块是预先训练好的语言模型，如生成式预训练转换器 (GPT) 或双向自回归转换器 (BART)，这种模型经过微调后可以根据输入和检索到的信息生成文本。

融合机制可确保在生成过程中有效结合检索到的信息。通过模块之间的这种交互，RAG 系统能够以检索到的知识为基础进行生成，从而生成更有依据、更可靠的内容。