一、从 Prompt 到 Context:目标开始转换
越来越多的人更喜欢“context engineering”,因为它比 prompt engineering 更贴切地描述真正的核心技能——为任务提供充足且恰当的上下文,让模型有解可施。Andrej Karpathy 表示:工业级 LLM 应用中,context engineering 是一门精密的艺术和科学,其核心是“往上下文窗口里填入恰好正确的信息”。
这里的关键变化是:
•Prompt Engineering 更关注怎么问——措辞、角色、格式、思维链
•Context Engineering 更关注喂什么——哪些信息、以什么形式、以什么顺序进入模型的上下文窗口
1.1 Context 不再是一个字符串
在简单聊天场景里,很多人习惯把“context”理解为一段长 prompt。但在 Agent 场景中,上下文已经演化成一个运行时系统的输出,它通常包含:
•System Prompt / Instructions:定义 Agent 行为边界与原则
•User Prompt:当前任务与自然语言需求
•State / History:最近多轮对话与操作历史
•Long-term Memory:跨会话的持久化记忆
•Retrieved Knowledge(RAG):从外部知识库检索的内容
•Tool Definitions:工具列表与调用规范
•Tool Outputs:工具执行结果与错误信息
•Environment Info:运行环境与元数据
•Examples(Few-shot):示例输入输出
Context Engineering 的本质,是构建一个动态的信息编排系统:
在正确的时间、以合适的格式,把合适的信息和工具放进上下文窗口,让模型拥有完成任务所需的一切——不多不少。
Karpathy 做过一个形象的比喻:
•把 LLM 看作 CPU
•上下文窗口是 RAM
•Prompt Engineering 像写汇编
•Context Engineering 则是在设计整个内存管理系统,包括加载、换出、压缩、索引等机制
这意味着,上下文不再是一个静态模版,而是一台“信息调度引擎”。
二、为什么 Prompt Engineering 已经不够
随着 Agent 开始在真实工作流里长时间运行,单纯优化 prompt 的边际收益迅速下降。
2.1 70% 的问题来自“喂错了东西”
在一个能运行数小时、调用几十个工具、编辑多份文件的编程 Agent 中,实践经验越来越统一:
•成败 70% 取决于上下文质量,而不是模型本身
•2024 年 RAG 综述指出:70% 以上错误源于上下文不完整、不相关或结构混乱
•Hugging Face 的工程实践也强调:多数 Agent 故障,本质上是上下文故障
简化一点说:
在强模型时代,最大的短板不再是“模型不懂”,而是“给它看的材料就不对”。
2.2 大上下文窗口不等于“万事大吉”
从 2025 年开始,主流模型的上下文窗口长度迎来爆发式增长:
•Claude:200K tokens
•Gemini 3 Pro:2M tokens
•GPT‑5.4(Codex 模式):1M tokens
•Llama 4:宣称可达 10M tokens
但现实远没有数字看起来那么美:
•Lost-in-the-Middle 效应:模型对开头与结尾信息更敏感,中间内容被忽略是结构性问题
•注意力稀缺:token 越多,噪音越多,重要信息反而被淹没
•时延与成本:长输入带来显著的推理延迟和成本上升
Anthropic 的总结是:
Context Engineering 的任务,是在给定的 token 预算内,找到最小且高信号的 token 集合,最大化正确输出的概率。
2.3 长上下文下的新型失败模式
Weaviate 等团队在实践中归纳出几类典型“长上下文病”:
•Context Poisoning(上下文中毒):错误或幻觉内容被写入上下文后,后续轮次不断引用和放大
•Context Distraction(上下文分心):模型被大量历史信息牵着走,一味模仿过去模式,忽视当前新信息
•Context Confusion(上下文混淆):系统 prompt、RAG 文档、工具返回出现相互矛盾,行为变得不可预测
•Context Staleness(上下文过时):早期信息已失效,却长期占用窗口空间
这些问题,构成了当下 Context Engineering 的主要靶点。
三、上下文窗口的根本矛盾:注意力是稀缺资源
无论厂商怎样扩展窗口长度,一个事实没有变:注意力始终有限。
可以将当前 LLM 的上下文处理,粗略理解为:
•每个 token 会和其他 token 竞争注意力
•窗口越长,竞争越激烈
•真正决定效果的,是"信号密度",而不是"字数总量"
因此,"把所有东西塞进去"必然走到瓶颈。Context Engineering 的核心任务变成:
在有限注意力内,最优地分配“谁能进来、谁要压缩、谁得丢掉”。
3.1 Token 预算管理:把上下文视为有限资源
成熟的上下文工程实践,核心是将上下文窗口视为有明确预算的有限资源。根据 2025 年多项研究,上下文窗口应划分为五个预算类别:
1系统指令(固定,通常 2,000-8,000 tokens)
2工具定义(半固定,200-15,000 tokens,取决于工具数量)
3检索上下文(可变,来自知识库和记忆)
4对话历史(随会话增长)
5响应预留空间(为模型输出保留)
关键发现:研究一致表明,当上下文使用率保持在30-40%时模型表现最佳。超过这个阈值会引入上下文腐化(context rot)—— 即使窗口还有剩余空间,无关内容也会导致响应质量下降。
实际含义:一个 200,000-token 的窗口,应该目标是容纳 60,000-80,000 tokens 的实际内容,而不是塞满到 190,000。
3.2 注意力失败的四种模式
根据 Drew Breunig 在 2025 年 6 月提出的分类法(已成为生产系统的标准参考),上下文失败主要有四种模式:
Context Poisoning(上下文中毒):
- 幻觉或错误进入上下文,并在后续轮次中被反复引用,复合原始错误
- 典型案例:Gemini 的 Pokemon 游戏 Agent,错误的游戏状态被注入目标部分,导致 Agent 无限追求不可能的目标
- 解决方案:在上下文注入前设置验证门,为可能幻觉的输出设置隔离区
Context Distraction(上下文分心):
- 上下文增长过长,导致模型过度关注历史,忽视训练知识
- 典型案例:Gemini 上下文超过 100,000 tokens 后,Agent 倾向于重复历史中的过去行为,而非开发新策略
- 解决方案:激进剪枝,将上下文视为精心策划的工作区,而非日志
Context Confusion(上下文混淆):
- 多余内容即使在窗口有容量时也降低响应质量
- 经典案例:Llama 3.1 8B 模型在有 46 个工具时失败,但在 19 个工具时成功 —— 尽管上下文容量相同。这是注意力失败,而非空间失败
- 解决方案:工具门控,仅暴露与当前任务阶段相关的工具
Context Clash(上下文冲突):
- 新信息与上下文中早期信息冲突
- 数据:多轮对话中,早期错误输出与后续纠正并存,平均性能下降 39%
- 解决方案:显式纠正标记或上下文隔离,将不确定信息与确认事实分开
3.3 工具过载与注意力分散
工具定义消耗大量 tokens,且会产生注意力干扰:
真实数据:
- 单个 YNAB 交易工具定义消耗约 663 tokens
- 完整的 Playwright MCP 服务器持续消耗 14,300 tokens,即使在从不需要浏览器自动化的会话中
- Taskade 研究发现:移除无关工具后,准确率从 80% 提升至 100%,token 使用量减少 40%
- 更极端案例:量化后的 Llama 3.1 8B 模型在有 46 个工具时失败,但仅保留 19 个工具时成功
渐进式披露策略:
- Claude Code 的技能系统:初始仅加载名称和描述(每个技能约 200 tokens),调用时才扩展到完整内容(约 4,000-5,000 tokens)
- 对比:始终开启的 MCP 服务器无论使用与否都支付完整 token 成本
- LangChain 的 Bigtool 库:对工具描述进行语义搜索,管理大型工具集合时工具使用成功率提升 3 倍
3.4 信号密度 vs 窗口长度
核心洞察:优化目标应该是最大化单位 token 的信息增益,而非最大化 token 总数。
反模式(已被充分记录):
- 上下文填充:不顾相关性转储所有检索文档(检索 10 篇文档,每篇 500 tokens = 5,000 tokens,但可能只有 1-2 篇相关)
- 永生记忆:从不清理过时信息
- 单体系统 prompt:超过 5,000 tokens 的 prompt 埋没关键指令
- 无重排序的检索:仅靠嵌入相似度产生过多假阳性
- 忽视 token 经济:无监控,将上下文视为无限
实践建议:
- 目标上下文利用率:30-40%
- 为响应生成和意外工具输出预留空间
- 监控每个请求的 token 使用,而非仅监控每个会话
- 分离记忆层级:工作记忆(上下文窗口)、情景记忆(最近会话)、语义记忆(事实)、程序记忆(模式)各需不同的存储和检索机制
结论:
上下文工程的优化目标不是"最大化窗口利用率",而是"最大化单位 token 的信息增益"。
四、上下文引擎四大核心策略:压缩、记忆、隔离、选择
4.1 压缩:在不丢关键细节的前提下瘦身
当对话拉长、工具调用堆积,必然会触碰窗口上限。此时如何“瘦身”,直接决定后续表现。
4.1.1 滑动窗口 + 摘要
一种常见做法是:
•最近 N 轮对话保持原文
•更早历史交给 LLM 做摘要压缩
Manus 等平台的经验指出两个细节:
1最近工具调用尽量保留原始格式,否则模型会失去对“当前节奏”的感知,工具调用质量明显下降
2错误 trace 不要压缩,完整保留错误信息与堆栈,方便模型避免重复犯错
4.1.2 压缩 vs 总结:先可逆,再不可逆
Manus 将“砍上下文”拆为两类:
1
Compaction(压缩):可逆,属于“外化信息”
•
如把大文本写入文件,只在上下文中保留文件路径或 URL
•上下文瘦身,但信息可以按需重新读回
2
Summarization(总结):不可逆
•只有在压缩仍无法把上下文控制在合理范围时才触发
•通常会先把关键片段卸载到文件系统,再通过结构化 schema 做精炼
这类可逆优先的策略,尽量推迟“真正的信息丢失”。
4.1.3 基于阈值的压缩工作流
在实际工程中,常见做法是设定两道阈值:
•硬限制:模型最大上下文长度
•“预腐烂阈值”:性能明显下降的临界点(例如 128K‑200K tokens)
当窗口接近预腐烂阈值时:
1优先对最旧的工具调用做选择性压缩
2保留最近几次调用和对话的完整细节
3若压缩增益逐渐变小,再逐步启用总结
目标是在“尽量保留当前任务相关细节”和“避免窗口腐烂”之间拿到一个动态平衡。
4.2 持久化:三层记忆架构
随着 Agent 从单轮对话,走向长时任务甚至跨会话协作,"记忆"成了必选项。当前业界逐渐收敛到一个三层模型:
1
Working Memory(工作记忆)
•就是模型当前的上下文窗口
•包含对话消息、RAG 片段、工具返回
•token 预算最贵,精度要求最高
2
Episodic Memory(情景记忆)
•对过去交互的浓缩:用户提过的问题、模型犯过的错及修正
•跨会话持久化,用于避免重犯错误与增强个性化
3
Semantic Memory(语义记忆)
•结构化知识库,如向量库、知识图谱
•主要为 RAG 提供检索基础
在这个框架下,文件系统被很多团队视为“终极上下文”:
•它几乎无限、持久,且 Agent 可以直接读写
•上下文压缩时,只要保留路径或 URL,就能在需要时再读取
现代 Agent(如 Claude Code、Cursor、Windsurf 等)普遍会利用规则文件(如CLAUDE.md、AGENTS.md)和自动生成的跨会话记忆,为后续任务提供“经验”。
真正的难点不在于“能不能记”,而在于:
•记什么
•何时记
•何时取
当记忆库变得庞大,检索策略就成了问题核心——嵌入搜索、知识图谱、甚至多步检索 Agent 都被用来控制“被取回”的信息质量。
4.3 隔离:用多 Agent 和环境边界对冲复杂度
复杂任务往往难以在一个 Agent 的单一上下文里处理干净。此时,“拆分”与“隔离”成了一种有效手段。
4.3.1 多 Agent 分工
一种日渐流行的架构,是将复杂任务拆分给多个子 Agent:
•每个子 Agent 拥有自己的系统提示与上下文
•只聚焦于更窄、更清晰的子任务
这种多 Agent 架构在某些任务上可带来接近 90% 的性能提升,主要得益于:
•每个上下文窗口更专注
•子 Agent 可并行探索不同问题维度
当然代价也不小:
•token 消耗可能是单 Agent 模式的数倍甚至十数倍
•主 Agent 需要扮演“规划者”和“协调者”的角色
多 Agent 协作大致有两种方式:
1通过通信
•主 Agent 发给子 Agent 一个独立任务说明
•子 Agent 在干净上下文里完成任务,仅返回结果
适合任务可以被明确拆分且不强依赖全局历史的场景
2通过共享上下文
•子 Agent 能看到主 Agent 的部分或全部历史
•自己拥有独立的系统 prompt 和工具集
适合子任务强依赖全局背景的复杂场景
4.3.2 环境隔离
在 HuggingFace 的深度研究 Agent 中,代码由 CodeAgent 生成,但执行在沙盒环境:
•LLM 能看到的是执行结果等精简信息
•沙盒持有图像、数据对象等大体量内容
这种“执行环境与上下文窗口分离”的方式,有两个直接好处:
•保护上下文不被大对象淹没
•控制 token 成本
类似地,用结构化状态(如 Pydantic 模型)代替纯消息列表,也能实现“字段级隔离”,按需决定哪些字段在某轮推理中对模型可见。
4.4 选择:在工具与知识之间做路由
即便上下文窗口再大,也无法容纳所有工具描述和所有知识片段。选择变成基础能力。
4.4.1 工具选择
工具接入 MCP 等标准后,一个 Agent 可以轻易连上几十个工具。但:
•工具描述本身就会占用大量 token
•功能重叠容易让模型"犹豫不决"
RAG‑MCP 等方案采取了"先选工具,再给描述"的策略:
•通过语义检索,从工具列表中筛出少量候选
•只把这些工具的 schema 提供给模型
实践显示,这可以:
•提高工具选择准确率
•将提示中的工具相关 token 减少一半左右
Nacos MCP Router 就是这一思路的开源实现。
4.4.2 知识选择
在大规模代码库场景中,简单的向量检索远不够用。编码 Agent 通常需要:
•AST 解析
•grep / 文件搜索
•知识图谱检索与重排序
Windsurf 团队的经验是:
代码索引 ≠ 上下文检索。随着代码库体量增长,嵌入搜索的召回质量会明显下降,必须通过多种技术组合提高信号密度。
4.4.3 渐进式披露(Progressive Disclosure)
另一种常见实践是:按需加载上下文。
•静态模式:系统启动时只加载元数据;当判断需要某项能力或知识时,才拉取完整内容
•动态模式:让 LLM 通过工具(比如搜索、文件读取等)自己决策何时“再拿更多上下文”
这本质上是在“中心化控制”与“Agent 自主性”之间寻找折中:过度控制会限制能力,过度自主则可能引入不可控行为。
4.5 工具管理与 KV 缓存:运行时成本的隐形杠杆
工具列表和 KV 缓存,是生产环境里经常被忽略但影响巨大的两块。
4.5.1 工具集膨胀与动作空间分层
工具过多是很多 Agent 崩溃的起点。Anthropic 的建议是:
•工具应像“设计良好的函数”
•尽量保持小而美的组合
•避免堆砌过度专用工具
Manus 的实践将动作空间分为三层:
1核心函数调用层
•10‑20 个固定原子动作(读写文件、执行 shell、搜索等)
• 格式严格受控,利于缓存
2
沙箱工具层
•通过预装命令行工具扩展能力
• 由统一的execute_shell_command封装
3软件包与 API 层
•Agent 编写脚本调用预授权 API
•只把计算结果的摘要返回 LLM,避免大规模数据污染上下文
4.5.2 掩码优于删除:保护 KV 缓存
动态添加或移除工具,会破坏 KV 缓存的一致性:
•历史消息中仍留下已移除工具的痕迹
•模型可能误以为这些工具仍然可用
Manus 的做法是:
•不从提示中删除工具,而是通过掩码收缩动作空间
•在预填充阶段,对不允许的工具调用 token 做 logprob 屏蔽
•通过统一前缀(如browser_、shell_)组合工具族,便于控制
4.5.3 KV 缓存命中率:成本与延迟的关键指标
在像 Manus 这类长会话 Agent 中:
•输入:输出 token 比可高达 100:1
•缓存 token 的成本仅为非缓存的约 1/10
因此,提升 KV 缓存命中率,是生产环境的第一要务之一。常见做法包括:
•保持提示前缀稳定,避免每次都加入变化极大的信息(比如精确到秒的时间戳)
•只追加上下文,尽量避免对历史内容做“就地修改”
•保证序列化过程确定性
•在必要处设置“缓存断点”,明确哪些段落可复用
五、编程 Agent:把 Context 设计成“接口”
编程 Agent 是 Context Engineering 最典型的落地场景之一。
5.1 指令、指导与上下文接口
Thoughtworks 提出将编码 Agent 的上下文拆成三个层次:
1
Instructions(指令):直接说明这一次要做什么
•如“为以下组件编写端到端测试”
2
Guidance(指导/规则):长期有效的约定
•如“测试之间必须互相独立”
3
Context Interfaces(上下文接口):定义 Agent 如何访问更多信息
•如如何读取文件、如何搜索项目、如何访问知识库
在这一视角下,代码库本身就是上下文:
•目录结构
•注释质量
•命名规范
都会影响 Agent 快速形成对项目的“心理模型”。换言之,“AI‑friendly 的代码库设计”,实际上就是一种面向 Agent 的 Context Engineering。
5.2AGENTS.md的边界与三层加载策略
很多团队在早期会投入大量精力写规则文件(如AGENTS.md),希望通过详尽说明统一 Agent 行为。但 Faros AI 等团队的实践指出:
•规则文件的边际收益有限
•Agent 的“多样性”(变异能力)比规则优化更重要
•上下文质量远比上下文数量重要
于是,编码 Agent 的上下文加载逐渐形成一个三层结构:
1Always‑on(始终加载)
•系统 prompt、关键规则、项目结构总览
•每轮推理都存在
2
Triggered(触发式加载)
•根据路径或任务类型匹配的局部规则
•某些 Skill 或模块在特定条件下加载
3
On‑demand(按需加载)
•Agent 通过工具自主检索:grep、读取文件、查阅文档、查看 git 历史等
实际经验是:
第一层越精简,第三层越强,Agent 越灵活。
5.3 “背诵”与注意力操控
在复杂任务中,Manus 等系统会创建类似todo.md的文件,持续更新任务列表并在每轮上下文中重复。表面上像在“自言自语”,本质是:
•把重要目标“搬运”到上下文末尾
•避免它们被淹没在中间部分
这是一种显式的注意力操控:通过“反复背诵目标”,把关键意图维持在模型近期关注范围内,从而减轻 Lost‑in‑the‑Middle 对长任务规划的破坏。
六、前沿探索:让上下文从"被动填充"走向"主动进化"
Context Engineering 依然是一个非常年轻的领域,但已经出现一批有代表性的研究方向。
6.1 Agentic Context Engineering(ACE)
ACE 提出:把上下文视为一份可演化的“剧本”。
•Agent 在执行任务时会生成新的 prompt 片段
•对这些片段的表现进行评估与反思
•将表现好的部分固化为“策略片段”,不好的则丢弃
这种“生成‑反思‑策展”的闭环,试图解决两大问题:
•简洁偏差:为了压缩而过度泛化,丢失关键细节
•上下文坍缩:多轮迭代后 prompt 变成空洞的规范性语言
后续研究开始尝试类似方法用于 Skill 的动态进化,让 Agent 的能力边界随经验逐渐拓展。
6.2 GAM:JIT 记忆与“反存储优先”
GAM(Generative Agent Memory)的核心观点是:
不要在存储时就决定什么重要,而是在检索时按需组合上下文。
它会:
•保存完整、未丢失的历史档案
•配合轻量级索引用以加速检索
•当需要“回忆”时,由一个专门的“研究员 Agent”分层搜索,直到证据充分
这种“检索时编译”模式,避免了传统摘要的“过早优化”:现在看似无关紧要的细节,可能在未来任务中突然变得关键。
6.3 选择性无损压缩
近期研究探索,通过在原始文本中选取少量“代表性 token”作为锚点,利用双向注意力聚合完整语义:
•在实验中实现数千倍的压缩比
•仍能保持相对较高的事实准确率
虽然距离生产环境还有不小距离,但这种“选择性无损压缩”思路,指向了一个可能的方向:在不依赖总结文本的情况下,通过结构化 token 选择重建上下文语义。
6.4 MCP:上下文的“USB 接口”
Model Context Protocol(MCP)正在成为 Agent 连接外部工具与数据源的事实标准:
•已捐赠给 Linux Foundation 的 Agentic AI Foundation
•多家主流厂商参与
•标准 SDK 下载量与生态连接器持续增长
MCP 给工具上下文带来了统一接口,但也引出新的问题:
•当 Agent 接入几十个 MCP Server 时,工具 schema 本身会消耗大量 token
•如何在保持标准化的同时,实现“按需发现”而不是“全量加载”,成为新的工程课题
6.5 上下文工程 2.0:认知扩展视角
从更长的时间轴看,上海创智学院等团队提出:
Context Engineering = Collection × Management × Usage
从 1990 年代的情境感知计算到今天的 Agent,上下文工程大致经历了三阶段:
1Era 1.0:基于规则的上下文感知
2Era 2.0:基于大模型的理解与协作
3Era 3.0(正在成形):无感采集、流畅协作与认知延伸
在这个视角下,上下文本身将逐步发展为一种新的“数字身份”——一个人是谁,很大程度上将由其累积上下文来定义。
七、未解难题:评估、共享、因果与个性化
尽管实践与研究都在快速推进,但不少基础问题远未解决。
7.1 如何评估上下文设计的好坏
现有评测工具与现实之间存在明显落差:
•Needle‑in‑a‑Haystack 测试只能评估“能否找回某段文本”,很难反映复杂推理
•Probe‑based 评估关注“信息是否保留”,但忽略“是否被有效利用”
同时,多数 Agent 框架的可观测性仍十分原始,很难回答:
•为什么检索到的是这段文档而不是那段
•为什么选择了工具 A 而不是工具 B
•哪一次压缩造成了关键信息丢失
社区开始提出类似codex proxy start --record这样的“透明代理”设想,通过记录结构化日志重构完整推理过程,但离统一标准仍有距离。
7.2 多 Agent 协作中的上下文边界
当多个 Agent 协作时,一个难题是:
•共享过少,会形成信息孤岛
•共享过多,则导致上下文膨胀与隐私风险
理想的形态是类似操作系统的“分层权限模型”:
•全局可见:项目规范、公共规则
•组内可见:当前任务的中间状态
•私有:单个 Agent 的推理中间结果
但如何把这一模型落在具体框架与协议层,目前尚没有广泛共识。
7.3 上下文的因果性
另一个难题是:Agent 很难区分“我知道的”和“我被告知的”。
•当前 LLM 会倾向把上下文中的所有内容当作事实
•即使这些内容来自过时文档或错误工具返回
上下文中毒因此变成最难调试的一类错误:
•表象问题可能出现于几十步推理之后
•但根因早已埋在某次错误检索或总结中
7.4 个性化与泛化的张力
Agent 对单个用户建立长期记忆后,随之而来的是:
•用户 A 的偏好可能成为用户 B 的噪声
•同一用户在不同项目、角色下可能需要不同行为模式
那么,个性化应该到底按什么粒度划分:
•用户级
•项目级
•任务级
•还是会话级
目前并没有统一答案,各家产品也在试验不同的策略组合。
7.5 Harness Engineering:当 Context 也不够时
即便大幅优化上下文,Agent 的稳定性仍有限。于是,一个新的词开始出现:Harness Engineering。
•把 Agent 看作运行在某个“系统壳”内部
•Harness 负责定义 Agent 能做什么、如何验证、如何纠错
LangChain 的实践表明,在不更换模型的前提下,仅通过改造 harness,就能显著提升 coding agent 在标准基准上的成绩。OpenAI 也曾披露,其一部分生产系统事实上几乎没有“手写业务代码”,工程师主要在设计 harness。
如果简化整个栈:
•Prompt:描述任务
•Context:决定模型能看到什么
•Harness:定义模型运行的系统边界
三者一起,构成了当代 AI Agent 工程的基础结构。
八、结语:真正的 10x,在上下文而不在模型
在 2026 年,模型能力的差距已经明显收窄。更多时候,差异来自“谁更会用”。
来自 Anthropic、Manus、Faros、Thoughtworks 等团队的一线实践,都在指向同一个结论:
大多数 Agent 的失败,是上下文的失败,而不是模型的失败。
对 Agent 开发者而言,几个务实的建议是:
1把主要精力从"打磨 prompt 语气"转向设计一套上下文供给系统:
•需要什么信息
•以何种格式注入
•在任务生命周期的哪个阶段出现
2建立可观测性,核心是记录与关联:
•记录每次推理的上下文、工具调用、压缩与检索过程
•将 token 消耗与结果质量关联起来
3从 Lost‑in‑the‑Middle 出发优化上下文布局:
•关键信息优先出现在开头或末尾
4拥抱 MCP 等标准化工具接口,同时保持警惕:
•警惕工具膨胀
•善用掩码与分层动作空间控制复杂度
5在系统设计中预留三层记忆架构:
•即便是最简版,也比"全塞进 prompt"强一个数量级
6很多稳定性提升来自简化:
•来自删除不必要的技巧
•来自给予模型适度的信任
Context Engineering 仍处早期,理论与实践之间存在巨大空间。但正因为如此,它对工程师异常友好:
•既需要系统架构能力
•又需要对模型行为的直觉和对成本的敏感
在“模型趋同”的时代,这种能力,很可能就是未来几年里最具杠杆效应的工程资产之一。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~