大模型的RAG主要解决什么问题？

RAGRetrieval-Augmented Generation检索增强生成主要用来解决大模型的几个核心问题知识过时大模型的知识停留在训练数据截止时间。RAG可以先检索最新资料再根据资料回答不必频繁重新训练模型。缺少私有或专业知识模型通常不了解企业内部文档、产品手册、合同、医学资料等。RAG可以接入这些知识库让模型回答特定领域的问题。模型幻觉大模型可能编造听起来合理但实际错误的内容。RAG通过提供相关原文作为上下文降低无依据回答的概率。回答难以追溯纯模型生成通常无法说明信息来源。RAG可以返回引用的文档、段落或链接方便用户核实。长文档无法全部放入上下文当资料数量很大时不适合把全部内容一次性输入模型。RAG只检索与问题最相关的片段可以节省上下文和调用成本。典型流程是用户提问 ↓ 将问题转换成向量 ↓ 从知识库检索相关文档片段 ↓ 把问题和检索结果交给大模型 ↓ 生成有资料依据的回答一句话概括RAG让大模型在回答前先“查资料”主要解决知识不新、不全、不准以及不可追溯的问题。不过RAG并不能完全消除幻觉如果检索结果不相关、文档本身错误或者模型没有正确使用资料回答仍可能出错。