如果你正在尝试让大语言模型LLM回答你公司内部的技术文档、产品手册或者让它基于你提供的PDF、Word文件生成一份报告你很可能已经遇到了一个核心难题LLM 会一本正经地“胡说八道”。它可能编造一个不存在的API接口或者把A产品的功能安到B产品头上。这不是模型笨而是因为它缺乏“知识”。过去解决这个问题只有两条路要么花巨资重新训练一个专属模型要么忍受模型在未知领域的幻觉。但现在第三条路——RAG检索增强生成——正在成为连接通用大模型与私有知识库的“标准答案”。它让模型在回答前先像人类一样去“查资料”从而大幅提升回答的准确性和可信度。然而当你真正动手搭建一个RAG系统时会发现从概念到落地中间隔着一片“沼泽地”。为什么我的RAG系统召回的都是无关内容文档切片到底多长才合适向量检索和关键词检索该怎么结合这些问题不解决RAG就只是一个时髦的缩写无法产生实际价值。本文将从工程实践的角度彻底拆解RAG。我们不只讲“RAG是什么”更聚焦于“如何构建一个真正可用的RAG系统”。你将看到从文档处理、向量化、检索到重排序的完整链路并附上基于主流技术栈如LangChain、Milvus的实战代码。无论你是想快速搭建一个原型还是为团队规划一个企业级知识库方案这篇文章都将提供清晰的路径和必须绕开的“坑”。1. RAG要解决的核心问题从“死记硬背”到“按需查阅”在深入技术细节前我们必须先理解RAG要解决的根本矛盾。传统LLM的困境知识固化与幻觉你可以把预训练好的大模型想象成一个博闻强识但记忆定格在某个时间点的“专家”。它的知识全部来自训练数据。当你问它“我司最新的V2.1产品API如何调用”时它只能基于训练数据中的通用编程知识和可能存在的旧版本信息进行“推测”极易产生幻觉Hallucination。微调Fine-tuning的局限一种解决方案是微调即用你的私有数据继续训练模型。这相当于让专家去上“培训班”把新知识“背下来”。但这种方法成本高昂需要大量计算资源和标注数据、不够灵活每更新一次知识就要重新训练一次并且可能导致模型“遗忘”原有的通用能力灾难性遗忘。RAG的范式转变引入“外部记忆”RAG采用了截然不同的思路。它不让模型去“记忆”所有知识而是为模型配备一个强大的“外部知识库”和一套“检索系统”。当用户提问时系统会检索Retrieve从外部知识库中快速找到与问题最相关的文档片段。增强Augment将这些片段作为上下文与用户问题一起提交给LLM。生成GenerateLLM基于提供的上下文而不是仅凭内部记忆生成最终答案。这带来了几个关键优势知识实时更新只需更新知识库无需重新训练模型。答案可追溯生成的答案有据可查可以追溯到源文档极大增强了可信度。成本可控主要成本在于检索系统构建和API调用远低于模型训练。减轻幻觉模型在给定上下文中“创作”编造信息的空间被压缩。因此RAG的核心价值在于将LLM的“生成”能力与外部“检索”系统解耦实现了动态、可验证的知识应用。它最适合那些知识边界清晰、需要准确引用、且内容频繁更新的场景如企业知识库、智能客服、技术文档问答等。2. RAG架构全景一个标准的四层流水线一个完整的RAG系统远不止“向量数据库LLM”那么简单。它是一条精密的流水线任何一个环节的疏漏都会导致最终效果大打折扣。一个典型的工业级RAG架构包含以下四层用户提问 - [检索层] - [增强层] - [生成层] - 最终答案 ↑ [索引构建层]离线1. 索引构建层离线核心是“存得好”这是RAG系统的基石决定了知识库的“质量”。主要步骤包括文档接入与解析支持PDF、Word、Markdown、HTML、数据库等多种来源。清洗与预处理去除无关字符、标准化格式、处理乱码。文本切片Chunking将长文档切割成适合检索的片段。这是第一个关键决策点切片策略直接影响召回效果。向量化Embedding使用嵌入模型将文本切片转换为高维向量。模型的选择如text-embedding-ada-002、BGE、M3E决定了向量空间的质量。索引构建将向量和对应的元数据如源文件、位置存入向量数据库如Milvus、Pinecone、Chroma。2. 检索层在线核心是“找得准”当用户提问时系统在此层运作查询向量化使用与索引层相同的嵌入模型将用户问题转换为向量。召回Retrieval在向量数据库中执行相似性搜索如余弦相似度找出Top-K个最相关的文本切片。混合检索Hybrid Search为了弥补纯向量检索在精确关键词匹配上的不足常结合传统的关键词检索如BM25。两者结果通过加权分数进行融合。重排序Re-ranking对召回的结果进行精排。初检可能只看语义相似重排序模型如BGE-Reranker、Cohere Rerank会评估每个片段与问题的相关度重新排序提升Top结果的精准度。3. 增强层在线核心是“喂得对”将检索到的相关文本片段上下文与用户原始问题按照预设的提示词模板进行组合构造出LLM能理解的完整提示Prompt。4. 生成层在线将构造好的提示发送给LLM如GPT-4、Claude、本地部署的Llama等获取最终的自然语言答案。理解这个分层架构至关重要。后续的所有实践和优化都是围绕这四层展开的。3. 环境准备构建你的第一个RAG实验场在开始编码前我们需要搭建一个最小化的实验环境。本文将使用Python LangChain Milvus OpenAI API作为示例栈。LangChain提供了流程编排Milvus是高性能向量数据库OpenAI提供嵌入和生成模型。3.1 基础环境Python 3.8pip包管理工具3.2 关键依赖安装创建一个新的Python虚拟环境是良好的实践。然后安装核心库# 安装LangChain及其社区工具链 pip install langchain langchain-community langchain-openai # 安装文档加载器以PyPDF2和Unstructured为例 pip install pypdf2 unstructured # 安装Milvus向量数据库的Python客户端和LangChain集成 pip install pymilvus langchain-milvus # 安装用于重排序的模型库以FlagEmbedding为例 pip install FlagEmbedding # 安装用于混合检索的TF-IDF/BM25工具可选但推荐 pip install rank-bm253.3 服务与API准备向量数据库你需要一个运行中的Milvus实例。对于快速测试可以使用 Milvus Lite 嵌入式版本或Docker启动一个标准版。# 使用Docker快速启动一个Milvus单机版 docker run -d --name milvus-standalone \ -p 19530:19530 \ -p 9091:9091 \ milvusdb/milvus:v2.4.0-rc.1-standalone大模型API你需要一个OpenAI API密钥或者准备一个本地部署的LLM如通过Ollama部署的Llama 3。本文以OpenAI为例。在 OpenAI平台 获取API Key。重要在代码中通过环境变量管理密钥切勿硬编码。# 在终端中设置环境变量Linux/macOS export OPENAI_API_KEYyour-api-key-here # Windows (PowerShell) $env:OPENAI_API_KEYyour-api-key-here环境就绪后我们就可以开始构建RAG的核心流程了。4. 核心流程拆解从原始文档到智能问答让我们按照RAG的四层架构一步步实现每个环节。4.1 索引构建文档处理与向量化第一步是创建我们的知识库。假设我们有一些产品的PDF说明书。# file: build_knowledge_base.py import os from langchain_community.document_loaders import PyPDFLoader, UnstructuredFileLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_openai import OpenAIEmbeddings from langchain_milvus import Milvus from langchain.schema import Document # 1. 配置嵌入模型 embeddings OpenAIEmbeddings( modeltext-embedding-ada-002, openai_api_keyos.getenv(OPENAI_API_KEY) ) # 2. 加载文档 documents [] pdf_folder ./product_manuals for filename in os.listdir(pdf_folder): if filename.endswith(.pdf): file_path os.path.join(pdf_folder, filename) print(fLoading {filename}...) loader PyPDFLoader(file_path) docs loader.load() # 为每个文档片段添加源文件元数据 for doc in docs: doc.metadata[source] filename documents.extend(docs) # 3. 文本切片 - 这是关键步骤 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每个切片约500字符 chunk_overlap50, # 切片间重叠50字符避免上下文断裂 separators[\n\n, \n, 。, , , , , , ] # 中文优先分隔符 ) all_splits text_splitter.split_documents(documents) print(f原始文档数{len(documents)} 切片后片段数{len(all_splits)}) # 4. 向量化并存入Milvus # 连接Milvus假设本地运行在默认端口 vector_store Milvus.from_documents( documentsall_splits, embeddingembeddings, connection_args{host: localhost, port: 19530}, collection_nameproduct_knowledge_base, # 集合名称 drop_oldTrue # 首次运行创建后续可设为False以增量添加 ) print(知识库构建完成)关键决策点文本切片Chunkingchunk_size太小会丢失上下文太大会引入噪声。通常500-1000字符是通用起点需根据文档类型调整。chunk_overlap重叠部分能防止关键信息被切碎通常设为chunk_size的10%-20%。分隔符对于中文使用句号、换行等作为分隔符比单纯按字符切分更合理。4.2 检索层实现混合检索与重排序纯向量检索在语义搜索上表现优异但可能错过精确的术语匹配。混合检索结合两者优势。# file: hybrid_retriever.py from langchain.retrievers import BM25Retriever, EnsembleRetriever from langchain.vectorstores import Milvus from langchain_openai import OpenAIEmbeddings from FlagEmbedding import FlagReranker class EnhancedRetriever: def __init__(self, vector_store, text_splits): self.vector_store vector_store # 1. 初始化向量检索器 self.vector_retriever vector_store.as_retriever( search_kwargs{k: 10} # 初步召回10个 ) # 2. 初始化BM25关键词检索器 self.bm25_retriever BM25Retriever.from_documents( text_splits ) self.bm25_retriever.k 10 # 3. 组合成混合检索器 self.ensemble_retriever EnsembleRetriever( retrievers[self.bm25_retriever, self.vector_retriever], weights[0.4, 0.6] # 权重可调通常向量检索权重更高 ) # 4. 初始化重排序模型 self.reranker FlagReranker(BAAI/bge-reranker-large, use_fp16True) def retrieve(self, query, top_k5): # 第一步混合检索获取较多候选 candidate_docs self.ensemble_retriever.get_relevant_documents(query) # 第二步重排序 pairs [[query, doc.page_content] for doc in candidate_docs] rerank_scores self.reranker.compute_score(pairs) # 将分数与文档绑定 scored_docs list(zip(candidate_docs, rerank_scores)) # 按重排序分数降序排列 scored_docs.sort(keylambda x: x[1], reverseTrue) # 返回Top-K个文档 final_docs [doc for doc, score in scored_docs[:top_k]] return final_docs # 使用示例 if __name__ __main__: embeddings OpenAIEmbeddings() # 重新连接已有的向量库 vector_store Milvus( embedding_functionembeddings, connection_args{host: localhost, port: 19530}, collection_nameproduct_knowledge_base ) # 注意这里需要传入之前切分好的all_splits给BM25 # 假设all_splits已保存或可重新加载 retriever EnhancedRetriever(vector_store, all_splits) test_query 产品V2.1的API调用频率限制是多少 relevant_docs retriever.retrieve(test_query) for i, doc in enumerate(relevant_docs): print(f\n--- 结果 {i1} (分数: {doc.metadata.get(score, N/A)}) ---) print(f来源: {doc.metadata.get(source, Unknown)}) print(f内容预览: {doc.page_content[:200]}...)4.3 增强与生成构造提示并调用LLM检索到相关上下文后我们需要巧妙地将其“喂”给LLM。# file: rag_chain.py from langchain.prompts import ChatPromptTemplate from langchain_openai import ChatOpenAI from langchain.schema.runnable import RunnablePassthrough from langchain.schema.output_parser import StrOutputParser from hybrid_retriever import EnhancedRetriever # 导入我们上面写的检索器 def format_docs(docs): 将检索到的文档片段格式化为一个连续的上下文字符串。 return \n\n.join([f来源{doc.metadata.get(source, N/A)}\n内容{doc.page_content} for doc in docs]) # 1. 定义提示词模板 prompt_template 你是一个专业的产品技术支持助手。请严格根据以下提供的上下文信息来回答问题。如果上下文中的信息不足以回答问题请直接说“根据现有资料我无法回答这个问题”不要编造信息。 上下文信息 {context} 问题{question} 请基于以上上下文给出准确、清晰的回答。在回答的最后请注明所参考的文档来源。 prompt ChatPromptTemplate.from_template(prompt_template) # 2. 初始化LLM llm ChatOpenAI( modelgpt-3.5-turbo, temperature0.1, # 低温度值使输出更确定减少随机性 openai_api_keyos.getenv(OPENAI_API_KEY) ) # 3. 组装完整的RAG链 def get_rag_chain(retriever): rag_chain ( {context: retriever.retrieve, question: RunnablePassthrough()} | prompt | llm | StrOutputParser() ) return rag_chain # 使用示例 if __name__ __main__: # 初始化检索器同上 # ... retriever EnhancedRetriever(vector_store, all_splits) rag_chain get_rag_chain(retriever) # 提问 question 产品V2.1的API调用频率限制是多少 answer rag_chain.invoke(question) print(问题, question) print(\n--- 助手回答 ---) print(answer)5. 完整示例构建一个Spring Boot Milvus LangChain4j的RAG问答服务对于Java技术栈的开发者Spring Boot生态同样有成熟的方案。这里使用LangChain4jJava版的LangChain和Milvus来实现。5.1 项目依赖pom.xmldependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency !-- LangChain4j 核心 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j/artifactId version0.31.0/version /dependency !-- LangChain4j OpenAI 集成 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-open-ai/artifactId version0.31.0/version /dependency !-- LangChain4j Milvus 集成 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-milvus/artifactId version0.31.0/version /dependency !-- 文档解析 -- dependency groupIdorg.apache.pdfbox/groupId artifactIdpdfbox/artifactId version2.0.27/version /dependency /dependencies5.2 应用配置application.yml# application.yml spring: application: name: rag-demo openai: api-key: ${OPENAI_API_KEY} embedding-model: text-embedding-ada-002 chat-model: gpt-3.5-turbo milvus: host: localhost port: 19530 collection-name: java_product_kb5.3 核心服务类// file: src/main/java/com/example/rag/service/KnowledgeBaseService.java package com.example.rag.service; import dev.langchain4j.data.document.Document; import dev.langchain4j.data.document.DocumentParser; import dev.langchain4j.data.document.DocumentSplitter; import dev.langchain4j.data.document.parser.apache.pdfbox.ApachePdfBoxDocumentParser; import dev.langchain4j.data.document.splitter.DocumentSplitters; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.embedding.EmbeddingModel; import dev.langchain4j.model.openai.OpenAiEmbeddingModel; import dev.langchain4j.model.openai.OpenAiTokenizer; import dev.langchain4j.store.embedding.EmbeddingStore; import dev.langchain4j.store.embedding.milvus.MilvusEmbeddingStore; import org.springframework.beans.factory.annotation.Value; import org.springframework.core.io.Resource; import org.springframework.core.io.ResourceLoader; import org.springframework.stereotype.Service; import java.io.IOException; import java.nio.file.Paths; import java.time.Duration; import java.util.List; Service public class KnowledgeBaseService { private final EmbeddingStoreTextSegment embeddingStore; private final EmbeddingModel embeddingModel; public KnowledgeBaseService(Value(${milvus.host}) String host, Value(${milvus.port}) int port, Value(${milvus.collection-name}) String collectionName, Value(${openai.api-key}) String apiKey, Value(${openai.embedding-model}) String embeddingModelName) { // 1. 初始化Milvus向量存储 this.embeddingStore MilvusEmbeddingStore.builder() .host(host) .port(port) .collectionName(collectionName) .dimension(1536) // text-embedding-ada-002的维度 .build(); // 2. 初始化OpenAI嵌入模型 this.embeddingModel OpenAiEmbeddingModel.builder() .apiKey(apiKey) .modelName(embeddingModelName) .timeout(Duration.ofSeconds(60)) .build(); } public void buildKnowledgeBase(String pdfDirectoryPath) throws IOException { // 3. 加载并解析PDF文档 DocumentParser parser new ApachePdfBoxDocumentParser(); ListDocument documents DocumentParserUtils.loadDocuments(Paths.get(pdfDirectoryPath), parser); // 4. 文档分割切片 DocumentSplitter splitter DocumentSplitters.recursive(500, 50, new OpenAiTokenizer()); ListTextSegment segments splitter.splitAll(documents); // 5. 向量化并存储 for (TextSegment segment : segments) { var embedding embeddingModel.embed(segment.text()).content(); embeddingStore.add(embedding, segment); } System.out.println(知识库构建完成共存入 segments.size() 个片段。); } }// file: src/main/java/com/example/rag/service/QAService.java package com.example.rag.service; import dev.langchain4j.data.segment.TextSegment; import dev.langchain4j.model.chat.ChatLanguageModel; import dev.langchain4j.model.openai.OpenAiChatModel; import dev.langchain4j.retriever.EmbeddingStoreRetriever; import dev.langchain4j.retriever.Retriever; import dev.langchain4j.service.AiServices; import dev.langchain4j.service.SystemMessage; import dev.langchain4j.service.UserMessage; import dev.langchain4j.store.embedding.EmbeddingStore; import org.springframework.beans.factory.annotation.Value; import org.springframework.stereotype.Service; import java.time.Duration; import java.util.List; interface Assistant { String answer(String question); } Service public class QAService { private final Assistant assistant; public QAService(EmbeddingStoreTextSegment embeddingStore, EmbeddingModel embeddingModel, Value(${openai.api-key}) String apiKey) { // 1. 定义检索器 RetrieverTextSegment retriever EmbeddingStoreRetriever.from(embeddingStore, embeddingModel, 5); // 2. 定义提示词模板通过注解 // 3. 创建AI服务自动组装RAG链 this.assistant AiServices.builder(Assistant.class) .chatLanguageModel(createChatModel(apiKey)) .retriever(retriever) .build(); } private ChatLanguageModel createChatModel(String apiKey) { return OpenAiChatModel.builder() .apiKey(apiKey) .modelName(gpt-3.5-turbo) .temperature(0.1) .timeout(Duration.ofSeconds(60)) .build(); } public String ask(String question) { return assistant.answer(question); } // 通过注解定义系统提示词其中{{information}}会被自动替换为检索到的上下文 SystemMessage( 你是一个专业的产品技术支持助手。请严格根据以下提供的上下文信息来回答问题。 如果上下文中的信息不足以回答问题请直接说“根据现有资料我无法回答这个问题”不要编造信息。 上下文信息 {{information}} ) interface Assistant { UserMessage({{question}}) String answer(String question); } }5.4 控制器层// file: src/main/java/com/example/rag/controller/QAController.java package com.example.rag.controller; import com.example.rag.service.QAService; import org.springframework.web.bind.annotation.*; RestController RequestMapping(/api/qa) public class QAController { private final QAService qaService; public QAController(QAService qaService) { this.qaService qaService; } PostMapping(/ask) public String askQuestion(RequestBody QuestionRequest request) { return qaService.ask(request.getQuestion()); } // 简单的请求体 public static class QuestionRequest { private String question; // getter and setter ... } }通过以上代码一个具备基本RAG能力的Java后端服务就搭建完成了。你可以通过HTTP API提交问题服务会从Milvus中检索相关知识并调用OpenAI生成答案。6. 运行验证与效果评估构建完成后如何验证你的RAG系统是否工作良好6.1 基础功能验证启动服务确保Milvus、你的Spring Boot应用或Python脚本正常运行。构建知识库运行KnowledgeBaseService的构建方法将示例PDF存入。简单问答测试# 使用curl测试API (Java示例) curl -X POST http://localhost:8080/api/qa/ask \ -H Content-Type: application/json \ -d {question:产品保修期是多久}检查返回的答案是否内容相关。没有明显的幻觉编造不存在的信息。格式符合预期如包含来源。6.2 效果评估指标对于生产系统需要更科学的评估检索相关度RecallK对于一组测试问题系统召回的前K个结果中有多少是真正相关的这衡量了检索层的质量。答案准确性Answer Accuracy生成的答案与标准答案或人工判断的一致程度。答案忠实度Faithfulness答案中的陈述是否都能从提供的上下文中找到依据这是衡量幻觉的关键。响应延迟从提问到获得答案的总时间影响用户体验。你可以构建一个包含问题-标准答案-相关文档的测试集用脚本自动化评估。7. 常见问题与排查思路在开发RAG系统时你几乎一定会遇到以下问题问题现象可能原因排查方式解决方案答案完全无关或胡言乱语1. 检索失败返回了无关上下文。2. 提示词模板设计不佳LLM忽略了上下文。1. 打印出检索到的上下文检查其与问题的相关性。2. 检查提示词中是否明确要求“基于上下文”。1. 优化检索器调整切片策略、尝试混合检索、引入重排序。2. 强化提示词使用SystemMessage明确指令或尝试Few-Shot示例。答案部分正确但包含编造细节上下文信息不足LLM用自身知识进行了“补全”。检查检索到的上下文是否完整覆盖了问题所需信息。1. 优化切片策略避免切碎关键信息。2. 增加检索数量Top-K但注意可能引入噪声。3. 在提示词中增加“如果信息不足请明确说明”的约束。检索不到任何内容1. 向量数据库连接失败或集合为空。2. 查询向量化失败。3. 问题与文档语义差异极大。1. 检查数据库连接和集合状态。2. 检查嵌入模型调用是否成功。3. 尝试一个非常简单的、文档中肯定存在的关键词进行检索。1. 确认网络、端口、集合名称。2. 检查API密钥和模型名称。3. 考虑引入关键词检索BM25作为兜底。响应速度非常慢1. 检索的Top-K值过大。2. 嵌入模型或LLM API调用延迟高。3. 未使用向量索引或索引类型不当。1. 分步计时检索、LLM生成。2. 检查向量数据库的索引类型如HNSW、IVF_FLAT。1. 合理设置Top-K如5-10。2. 考虑使用更快的嵌入模型或本地模型。3. 为向量库创建合适的索引。Milvus中可对向量字段创建IVF_FLAT或HNSW索引。文档更新后答案未更新新文档未成功索引或旧文档未被覆盖。检查向量库中对应文档的切片是否存在或版本是否正确。1. 实现增量更新逻辑为文档片段添加版本或时间戳元数据。2. 采用“先删后插”的方式更新整个文档。8. 最佳实践与进阶方向要让RAG系统从“能用”到“好用”以下实践至关重要8.1 文档预处理与切片优化按语义切片不要简单按字符或字数切分。对于技术文档可以按章节、子标题进行切分保留完整的语义单元。多粒度索引对同一份文档可以同时存储“粗粒度”如整章和“细粒度”如段落的切片。检索时可以根据问题复杂度选择或融合。丰富元数据为每个切片添加丰富的元数据如文档标题、章节、页码、最后更新时间。这有助于后续的过滤和精排。8.2 检索策略进阶查询扩展Query Expansion在检索前使用LLM对原始问题进行改写或扩展生成多个相关问题合并检索结果。这能提高召回率。多路召回与融合除了向量和关键词还可以考虑基于元数据过滤、图关系检索等多路召回然后进行智能融合。自省式RAGSelf-RAG让模型在生成过程中自我判断是否需要检索、检索结果是否相关实现动态的、迭代的检索过程。8.3 提示工程优化指令明确化在系统提示词中清晰定义角色、知识边界和回答格式。上下文结构化在提示词中清晰分隔不同来源的上下文甚至要求模型注明引用来源。思维链Chain-of-Thought对于复杂问题可以要求模型先推理再基于推理结果去检索或生成答案。8.4 生产环境考量异步索引对于大量文档使用异步任务队列进行索引避免阻塞主服务。监控与日志记录每次问答的检索结果、LLM输入输出、耗时和用户反馈用于持续优化。权限与安全确保知识库访问权限可控对用户输入进行清洗防止提示词注入攻击。成本控制监控API调用费用对检索结果进行缓存对常见问题建立标准答案库。8.5 探索Agentic RAG这是当前的前沿方向。传统的RAG是被动的“检索-生成”流水线而Agentic RAG引入了智能体Agent的概念使其能够自主规划将复杂问题拆解为多个子问题分步检索和解答。工具使用不仅能查向量库还能调用计算器、搜索引擎、API等外部工具。迭代反思对初步答案进行评估如果不满意可以调整策略重新检索或生成。 使用LangChain的Agent框架或AutoGen等工具可以尝试构建这样的智能RAG系统。RAG不是一项一劳永逸的技术而是一个需要持续迭代优化的系统工程。它成功的关键在于深刻理解“检索”与“生成”之间的协同并在文档处理、检索算法、提示工程等每一个环节都做到精细打磨。从本文提供的基础框架出发结合你的具体业务数据和场景进行调优你就能构建出真正解决实际问题的智能知识问答系统。