本文从“是什么、为什么需要它、底层怎么运作、和其他概念有什么关联”四个维度系统拆解学习计划中的核心概念。内容较长但保证你看完能真正理解而不是只记名词。第一阶段夯实应用基石与大模型“对话”和“定规矩”的能力1. Prompt Engineering提示词工程是什么不是简单的“问问题”而是通过设计特定的输入模板角色、格式、示例精准激活大模型在预训练阶段学到的对应能力。底层逻辑大模型本质是“概率预测机”。好的提示词相当于设置了“先验概率”和“输出约束”如 JSON 格式。例如加一句“你是资深财务分析师”会让模型调取参数空间里所有财务类语料的权重显著提升专业回答的概率。为什么重要这是成本最低的“微调”不需要训练数据就能 0 成本大幅提升准确率。2. 思维链CoT与思维树ToTCoT 是什么强制模型在输出最终答案前先输出中间推理步骤“Let’s think step by step”。运作原理它将复杂问题拆解为串行的多个简单子问题。每一步的推理结果都作为下一步的上下文极大减少了“跳跃性误差”比如算术题算错。ToT 是什么在 CoT 的基础上引入了搜索算法如 BFS/DFS。模型在每一步探索多个可能的“推理分支”像树枝分叉然后给每个分支打分放弃死路保留最优路径。适合解决“24点游戏”或“逻辑谜题”这类需要回溯验证的问题。3. Agent智能体与 AutoGenAgent 的本质一个无限循环的“大脑”。它不只是“回答一次”而是自主规划 - 调用工具 - 观察结果 - 再规划直到任务终结。AutoGen微软框架核心特色是多智能体对话Multi-Agent Conversation。你可以定义“程序员 Agent”、“测试员 Agent”、“项目经理 Agent”它们之间通过对话协作完成任务而不是单一 Agent 单打独斗。4. ReAct 模式Reasoning Acting这是 Agent 最主流的底层循环范式。关键点是“思考与行动交错”Thought思考模型在内部用自然语言推理下一步该做什么。Action行动模型输出一个具体的工具调用指令如search(巴黎天气)。Observation观察系统将工具返回的结果直接塞回给模型。精髓观察结果会覆盖掉之前的错误推理让模型基于真实的外部反馈修正路径而不是凭空瞎想从而有效缓解大模型的“幻觉”。5. 记忆Memory在 Agent 中记忆分为两类短期记忆短期上下文存放在 Prompt 的 System 或 History 中受限于上下文窗口如 DeepSeek 的 64K/128K。简单处理是“滑动窗口”丢旧留新。长期记忆外部存储当对话太长发核心信息丢失时使用向量数据库存储历史对话摘要需要时通过语义检索拉回。高级策略还包括“总结记忆”Summarization即每轮对话后让模型压缩历史只保留关键决策点节省 Token。6. MCP模型上下文协议定位AI 界的“USB-C 接口”。以前接入一个外部数据库要写大量定制化代码MCP 定义了标准化的通信格式JSON-RPC。只要服务端实现 MCP 协议暴露 Tools、Resources、Prompts任何支持 MCP 的 Agent 都能直接“即插即用”挂载这个服务彻底解决了 AI 应用和外部工具之间的碎片化集成问题。第二阶段掌握 Agent 核心让模型“动手”与“查资料”7. Function Call vs. Skill vs. MCP最难区分的三角关系Function Call协议层是大模型输出格式的约定。模型不执行代码只返回一个结构化的 JSON例如{name: add, args: {a: 1, b: 2}}告诉宿主程序“请帮我调用这个函数”。这是模型与应用程序之间的接口。Skill应用层封装是提前预制好的 Prompt 模板 对应业务代码。比如“发送邮件 Skill”里面既包含“提取收件人、标题、正文”的提示词也包含调通 SMTP 服务器的 Python 脚本。Agent 调用 Skill 时背后的代码会真正把邮件发出去。MCP互联协议层是服务器与 Agent 框架之间的标准化协议。如果你用 MCP 开发了一个“文件系统服务器”那么无论是 Claude Desktop、LangChain 还是 Spring AI只要是遵循 MCP 协议的客户端都能挂载它。一句话总结Function Call定义“模型怎么说”Skill定义“应用程序怎么做”MCP定义“不同应用之间怎么互通”。8. RAG检索增强生成全流程深入为什么要 RAG大模型的预训练知识是静态的截止日期。RAG 让模型能“翻阅资料”回答私域或时效性问题。运行五步法重点分片Chunking将长文档切块。切太短丢失上下文切太长影响检索精度。常用策略是“按语义边界段落/句子切分”。向量化Embedding用嵌入模型将文本块转为浮点数向量如 768 维或 1536 维。关键点该向量捕捉了文本的“语义坐标”“苹果”和“橘子”在向量空间中距离近“苹果”和“汽车”距离远。索引Indexing向量数据库如 Milvus、Pinecone构建索引支持高效的近似最近邻ANN搜索能在毫秒级从亿万数据中找出最相似的 Top-K 个块。召回Retrieval将用户问题也转为向量去数据库里找余弦相似度最高的几个块。重排Rerank这是精度救星。初召ANN追求速度精度略差。重排用更重的 Cross-Encoder 模型把候选块和用户问题拼接起来计算真正的相关性得分重新排序最后把得分最高的 1-3 块喂给大模型生成答案。9. LangChain 与 Spring AI框架本质LangChain核心抽象是Chain链。它把“调用 LLM”、“调用向量库”、“处理输出”都变成可拼接的组件。它的终极产品是LangGraph下文会讲用于构建带状态循环的复杂 Agent而非简单的线性链。Spring AIJava 世界的 LangChain。它使用 Spring 生态的RestClient和ApplicationContext通过注解注入不同模型如通义千问、ChatGPT。优势是能让 Java 后端工程师零基础接入 AI不需要学 Python。第三阶段模型优化与部署让代码跑起来10. AI Coding 与 Claude Code代码智能体AI Coding 的精髓不再是“代码补全”而是“代码库的维护代理”。它能理解项目结构、依赖关系。Claude Code 杀手锏它是一个终端原生 Agent。它能直接执行 Bash 命令、读取整个项目树Tree-sitter 解析语法。当你给它一个编译报错它能自己修改pom.xml或package.json运行npm install再重新编译直到绿灯通过。这种“闭环调试”能力远超常规插件。11. Spec Coding规范驱动开发这种范式是 AI 编程的工程化保证。原则是“先文档后代码”。意图明确用自然语言写“我想要一个支持限流的网关”而非直接说“写个 Gateway 类”。结构化规格使用 GherkinGiven-When-Then或特定模板让需求无歧义。多步精化先让 AI 生成设计文档Review 通过后再让 AI 根据设计文档生成代码。这样生成的代码质量远高于一步到位。12. LangGraph复杂流程管理普通 Chain 是无环有向图DAG线性或串行。LangGraph 是循环图Cyclic Graph。它把 Agent 的每一步抽象成“节点Node”和“边Edge”支持if-else跳转、循环重试。例如“代码运行报错 - 跳转到修复节点 - 修复后再跳转到测试节点”。它内置了状态持久化支持人机协同Human-in-the-loop即执行到关键节点时暂停等人工审批后再继续。第四阶段行业前沿模型瘦身与定制13. 蒸馏Knowledge Distillation原理教师模型如 175B 的 GPT-4输出“软标签Soft Labels”即概率分布例如预测“猫”概率 0.7“狗”概率 0.3而非硬标签 0/1。学生模型如 7B 的小模型去拟合这些软概率学到的不只是答案更是“教师是怎么思考边界模糊样本的”。这使得小模型能以 10% 的参数量达到大模型 90% 的能力。14. 微调技术详解SFT / LoRA / QLoRASFT监督微调最传统的方式。用大量人工标注的“问答对”重新训练模型全部参数效果好但极贵需 8×A100 显卡。LoRA低秩适配冻结原模型在 Transformer 的权重矩阵旁插入两个小矩阵A 和 B。训练时只更新这两个小矩阵。因为矩阵秩很低如 r8参数量只有原模型的 0.1% ~ 1%一张 4090 就能跑。QLoRA在 LoRA 基础上加了量化Quantization。把原模型加载成 4-bit 精度原本是 16-bit显存占用暴降。同时引入了NF4一种正态分布的 4-bit 数据类型和双量化二次量化压缩常数项保证量化后精度损失最小。DPO直接偏好优化革命性方法。传统 RLHF基于人类反馈的强化学习需要先训练一个奖励模型Reward Model再用 PPO 策略优化极其复杂且不稳定。DPO 直接用“偏好数据”A 回答比 B 回答好推导出损失函数绕过奖励模型用 SFT 同级别的算力就能完成对齐训练。15. vLLM推理加速核心是PagedAttention。大模型推理时每个 Token 的 Key-Value 缓存KV Cache占用巨量显存。传统方法会碎片化。vLLM 借鉴操作系统的虚拟内存分页将 KV Cache 分页管理使显存利用率提升 2~4 倍同时支持连续批处理Continuous Batching即前一个请求生成 Token 时显存空隙能塞入新请求极大提高吞吐量。写在最后这些概念如何串联成一个完整的 AI Agent 系统前端/交互用Prompt Engineering ReAct规划任务。能力扩展通过Function Call/Skill联动本地系统通过MCP跨服挂载外部服务。外部知识靠RAG向量数据库 重排提供精准资料。开发方式用LangGraph编排复杂流程用Claude Code辅助写集成代码。生产落地如果大模型太贵用蒸馏出小模型如果用私有数据用LoRA/QLoRA微调最后用vLLM部署上线。这套链路走通你就完全理解了现代 AI 应用的全栈开发逻辑。如果有哪个具体环节比如 RAG 的分块策略、LoRA 的秩怎么选你还想深究欢迎继续交流。