前言刚接触 AI 的新手最大障碍满屏英文缩写、圈内黑话刷技术文章、看直播、社群交流全程听不懂。 LLM、Token、幻觉、RAG、Agent、MoE、LoRA、RLHF…… 一堆名词扑面而来网上解释零散很难一次性系统梳理。本文将2026 主流 AI 全领域术语分类整理兼顾通俗解释 专业定义覆盖基础概念、大模型架构、提示词工程、Agent 智能体、知识库 RAG、训练微调、参数控制、硬件算力、应用产品黑话。 零基础小白能看懂开发人员可当做随身查阅手册适合长期收藏。说明内容兼顾通用科普与工程实战剔除过度学术晦涩公式优先落地视角解读。一、基础 AI 通用概念AI 人工智能Artificial Intelligence通俗让机器模拟人类思考、沟通、创作、决策的技术总称。细分计算机视觉、自然语言、机器人、大模型等方向。ML 机器学习Machine LearningAI 分支核心不给机器写死规则让模型从大量数据自动学习规律。大模型属于机器学习的分支。DL 深度学习Deep Learning机器学习子集依靠多层神经网络学习复杂特征现在所有大语言模型、文生图模型底层都是深度学习。LLM 大语言模型Large Language Model基于 Transformer 架构、海量文本训练擅长理解、生成人类语言。代表DeepSeek、Kimi、GLM、GPT 系列。SLM 小语言模型Small Language Model参数量较小的轻量化模型可以本地部署、手机 / PC 离线运行推理速度快成本更低。AIGC 生成式人工智能AI 自动生成内容包括文字、图片、音频、视频、代码。包含文生文、文生图、文生视频。多模态模型Multimodal LLM同时能处理文本、图片、音频、视频多种信息。可以识图、解读截图、分析视频画面。生成式模型 vs 判别式模型生成式从头创造内容大模型、绘画 AI判别式分类、判断内容人脸检测、内容审核模型。二、大模型底层核心名词Transformer当前几乎所有大模型的基础网络架构依靠自注意力机制实现上下文理解。Token令牌模型处理文字最小单位。中文大约 1 个 Token≈1.5 个汉字。API 计费、上下文长度全部按照 Token 统计。Tokenizer 分词器把人类文字切割成 Token送入模型推理结束再把 Token 还原成文字。不同模型分词规则不通用。上下文窗口 Context Window模型单次对话能够容纳的最大 Token 总量。包含系统提示词、历史对话、提问、参考资料。超出限制会截断旧内容。上下文衰减 Context Rot长对话持续多轮后模型慢慢遗忘早期关键信息回答逐渐跑偏长会话高频痛点。KV Cache大模型推理优化技术缓存历史 token 计算结果加速生成、降低算力消耗长对话越聊越慢的根本原因就是 KV Cache 持续膨胀。MoE 混合专家模型Mixture of Experts主流大模型架构。模型拥有大量专家模块每次推理只激活一部分参数兼顾超大参数量与推理速度DeepSeek、GLM 大量使用。稠密模型 Dense Model推理时全部参数参与计算稳定性更强但是算力消耗更高。幻觉 Hallucination大模型经典缺陷一本正经编造不存在的事实、数据、文献、接口信息虚假。RAG、提示词约束主要用来缓解幻觉。对齐 Alignment调整模型行为让输出符合人类价值观、指令意图拒绝有害提问不说假话。代表技术RLHF。预训练 Pre-training模型第一阶段训练使用海量公开互联网数据学习通用语言、常识、知识。相当于模型 “基础教育”。三、模型训练 微调系列术语微调 Fine-tuning在已经预训练完成的大模型基础上使用自有数据二次训练适配专属业务场景。SFT 监督微调Supervised Fine-Tuning使用人工标注高质量问答数据微调教会模型遵循指令、规范输出。大模型上线必备流程。RLHF 基于人类反馈的强化学习人类对模型回答打分训练奖励模型再用强化学习优化模型让输出更贴合人类偏好。RLAIF AI 反馈强化学习不用人工打分由 AI 自动评价回答优劣替代部分人工反馈降低训练成本。LoRA 低秩自适应微调低成本轻量化微调方案。不改动原始大模型权重只训练小型附属参数显存占用低现在最主流微调方案。全参微调 Full Fine-tune更新模型全部参数效果上限更高但需要极高显存、海量算力成本昂贵。蒸馏 Model Distillation大模型教师模型输出知识训练更小的学生模型实现 “小模型拥有大模型能力”多用于本地轻量化部署。合成数据 Synthetic Data由 AI 自动生成训练数据集减少人工标注成本。四、提示词工程Prompt 系列术语Prompt 提示词你发给大模型的指令、对话文本。System Prompt 系统提示词全局底层指令固定设定 AI 角色、规则、输出格式全程生效。User Prompt 用户提示词普通人输入的对话内容。Few-shot 少样本提示在提示词内附带少量示例引导 AI 模仿格式、逻辑进行输出。Zero-shot 零样本不给示例直接让模型完成任务。CoT 思维链Chain of Thought引导模型 “一步步思考”先输出推理过程再给出答案大幅提升复杂问题正确率。ToT 树状思考Tree of Thought多条思考分支并行探索适合复杂决策、头脑风暴类任务。提示词工程 Prompt Engineering系统化设计、优化指令控制模型输出格式、逻辑、行为不是单纯写优美文案。上下文工程 Context Engineering高阶分支负责对话上下文裁剪、压缩、排序、Token 预算管控解决长会话问题。五、生成参数控制调用 API 高频参数Temperature 温度控制生成随机性。 趋近 0答案稳定、标准适合代码、问答 趋近 1创意更强容易发散适合写作、策划。Top-P核采样概率阈值筛选候选词汇。只使用累计概率达到阈值的候选集合。Top-K固定选取概率最高的 K 个候选 Token 进行采样。重复惩罚 Repetition Penalty降低 AI 不断重复相同句子的概率。六、AI Agent 智能体全套术语2026 最热赛道AI Agent 智能体具备自主规划、思考、调用工具、循环执行任务的 AI 系统不止单次一问一答。Function Calling / Tool Calling 工具调用模型输出结构化 JSON自动调用外部工具联网搜索、接口、数据库、代码执行器。ReAct 推理行动范式主流 Agent 框架思考→执行动作→观察结果→再次思考循环迭代完成复杂任务。Reflexion 反思机制任务结束或者执行失败后Agent 复盘错误优化后续决策减少重复犯错。记忆 MemoryAgent 核心组件瞬时记忆当前上下文窗口内对话短期会话记忆本轮任务历史摘要长期记忆持久化存储用户信息、历史任务通常依靠向量库Skill 技能Agent 可调用的能力封装查询数据、文件读写、接口请求都可以封装为 Skill。Workflow 工作流预先编排好的 AI 任务流程固定步骤执行区别于自主决策的 Agent。Agentic RAG具备规划能力的高级知识库检索智能判断查什么、查几次、合并结果优于传统 RAG。LangGraph主流 Agent 开发框架基于图结构搭建智能体循环、分支、反思流程。七、知识库RAG KAG 体系术语RAG 检索增强生成Retrieval-Augmented GenerationAI 回答前先在私有知识库检索相关资料结合资料生成答案。解决模型知识过时、私有数据无法输入、幻觉问题。Embedding 嵌入 / 向量化将文字、图片转化为一串高维数字向量。语义相近的文本向量距离更近。是向量检索底层基础。向量数据库 Vector Database专门存储 Embedding 向量快速做相似度检索代表Milvus、Qdrant、Chroma。分块 Chunking把长文档切分成小段文本用于向量化入库。切片大小、重叠度直接影响检索精度。混合检索 Hybrid Search稠密向量检索语义 稀疏检索关键词结合兼顾语义匹配与精准关键词命中。重排序 Rerank初次检索拿到多条结果使用专门模型二次打分筛选过滤无关文档提升 RAG 准确率。KAG 知识图谱增强生成基于知识图谱存储实体、关系适合强关联、复杂逻辑问答企业图谱、政务、医疗场景。知识图谱 Knowledge Graph由实体、关系组成结构化知识网络【实体 A】-【关系】→【实体 B】。八、算力、硬件、部署相关名词GPU 图形处理器大模型训练、推理主流硬件擅长并行计算。NVIDIA A10、A100、H100 行业通用。NPU 神经网络处理器端侧 AI 芯片手机、本地 PC 小模型推理功耗低。TPU Google 自研 AI 芯片谷歌云专用算力芯片。推理 Inference模型训练完成后接收用户提问、生成回答的过程面向终端用户。训练 Training投喂海量数据调整模型参数学习知识的过程。私有化部署模型部署在企业自己服务器数据不流出内网对比公有云 API。公有云 API调用厂商云端模型接口阿里云百炼、DeepSeek、智谱等无需自备显卡。吞吐量 Throughput单位时间模型能够处理的请求数量衡量服务并发能力。时延 Latency发送提问到 AI 返回首字的等待时间。九、AI 应用、开发圈内黑话VibeCoding依靠 AI 大模型辅助编程以提示词驱动快速搭建 Demo、网站、应用无需熟记全部代码。端侧模型运行在本地电脑、手机不需要联网调用云端。SaaS AI 应用云端 AI 软件开箱即用例如各类 AI 写作、AI 思维导图平台。上下文污染无用信息、错误内容大量占用上下文窗口干扰模型正常判断。越狱 Jailbreak通过特殊提示词绕过模型安全限制诱导模型输出受限内容不建议尝试。多轮对话状态持续聊天场景模型需要读取历史对话理解上下文。可观测性 Observability监控 Agent/RAG 完整执行链路检索内容、工具调用、思考过程定位问题解决 “AI 黑盒” 问题。限流 429API 请求频率超限服务商拒绝提供服务高频开发踩坑错误码。十、行业商务黑话看懂行业发布会、社群交流赋能给传统系统接入 AI 能力圈内高频泛用词。端到端 End-to-End原始输入直接输出最终结果中间无需人工干预。原生 AI Native AI产品从底层设计围绕大模型构建而非传统软件简单加装 AI 功能。场景落地把 AI 技术投入真实业务使用不只是 Demo 演示。规模化从少量测试扩大至大量用户、大批量业务持续运行。全文总结AI 领域名词更新速度极快每天不断出现新框架、新概念。 新手学习建议顺序基础 LLM 概念 → Token / 上下文窗口 → Prompt 工程 → RAG 知识库 → Agent 智能体。 不要一次性死记所有名词结合实战开发、搭建 Demo理解会更加深刻。后续持续更新最新开源框架、新模型衍生术语建议收藏本文遇到陌生名词随时查阅。
前言刚接触 AI 的新手最大障碍满屏英文缩写、圈内黑话刷技术文章、看直播、社群交流全程听不懂。 LLM、Token、幻觉、RAG、Agent、MoE、LoRA、RLHF…… 一堆名词扑面而来网上解释零散很难一次性系统梳理。本文将2026 主流 AI 全领域术语分类整理兼顾通俗解释 专业定义覆盖基础概念、大模型架构、提示词工程、Agent 智能体、知识库 RAG、训练微调、参数控制、硬件算力、应用产品黑话。 零基础小白能看懂开发人员可当做随身查阅手册适合长期收藏。说明内容兼顾通用科普与工程实战剔除过度学术晦涩公式优先落地视角解读。一、基础 AI 通用概念AI 人工智能Artificial Intelligence通俗让机器模拟人类思考、沟通、创作、决策的技术总称。细分计算机视觉、自然语言、机器人、大模型等方向。ML 机器学习Machine LearningAI 分支核心不给机器写死规则让模型从大量数据自动学习规律。大模型属于机器学习的分支。DL 深度学习Deep Learning机器学习子集依靠多层神经网络学习复杂特征现在所有大语言模型、文生图模型底层都是深度学习。LLM 大语言模型Large Language Model基于 Transformer 架构、海量文本训练擅长理解、生成人类语言。代表DeepSeek、Kimi、GLM、GPT 系列。SLM 小语言模型Small Language Model参数量较小的轻量化模型可以本地部署、手机 / PC 离线运行推理速度快成本更低。AIGC 生成式人工智能AI 自动生成内容包括文字、图片、音频、视频、代码。包含文生文、文生图、文生视频。多模态模型Multimodal LLM同时能处理文本、图片、音频、视频多种信息。可以识图、解读截图、分析视频画面。生成式模型 vs 判别式模型生成式从头创造内容大模型、绘画 AI判别式分类、判断内容人脸检测、内容审核模型。二、大模型底层核心名词Transformer当前几乎所有大模型的基础网络架构依靠自注意力机制实现上下文理解。Token令牌模型处理文字最小单位。中文大约 1 个 Token≈1.5 个汉字。API 计费、上下文长度全部按照 Token 统计。Tokenizer 分词器把人类文字切割成 Token送入模型推理结束再把 Token 还原成文字。不同模型分词规则不通用。上下文窗口 Context Window模型单次对话能够容纳的最大 Token 总量。包含系统提示词、历史对话、提问、参考资料。超出限制会截断旧内容。上下文衰减 Context Rot长对话持续多轮后模型慢慢遗忘早期关键信息回答逐渐跑偏长会话高频痛点。KV Cache大模型推理优化技术缓存历史 token 计算结果加速生成、降低算力消耗长对话越聊越慢的根本原因就是 KV Cache 持续膨胀。MoE 混合专家模型Mixture of Experts主流大模型架构。模型拥有大量专家模块每次推理只激活一部分参数兼顾超大参数量与推理速度DeepSeek、GLM 大量使用。稠密模型 Dense Model推理时全部参数参与计算稳定性更强但是算力消耗更高。幻觉 Hallucination大模型经典缺陷一本正经编造不存在的事实、数据、文献、接口信息虚假。RAG、提示词约束主要用来缓解幻觉。对齐 Alignment调整模型行为让输出符合人类价值观、指令意图拒绝有害提问不说假话。代表技术RLHF。预训练 Pre-training模型第一阶段训练使用海量公开互联网数据学习通用语言、常识、知识。相当于模型 “基础教育”。三、模型训练 微调系列术语微调 Fine-tuning在已经预训练完成的大模型基础上使用自有数据二次训练适配专属业务场景。SFT 监督微调Supervised Fine-Tuning使用人工标注高质量问答数据微调教会模型遵循指令、规范输出。大模型上线必备流程。RLHF 基于人类反馈的强化学习人类对模型回答打分训练奖励模型再用强化学习优化模型让输出更贴合人类偏好。RLAIF AI 反馈强化学习不用人工打分由 AI 自动评价回答优劣替代部分人工反馈降低训练成本。LoRA 低秩自适应微调低成本轻量化微调方案。不改动原始大模型权重只训练小型附属参数显存占用低现在最主流微调方案。全参微调 Full Fine-tune更新模型全部参数效果上限更高但需要极高显存、海量算力成本昂贵。蒸馏 Model Distillation大模型教师模型输出知识训练更小的学生模型实现 “小模型拥有大模型能力”多用于本地轻量化部署。合成数据 Synthetic Data由 AI 自动生成训练数据集减少人工标注成本。四、提示词工程Prompt 系列术语Prompt 提示词你发给大模型的指令、对话文本。System Prompt 系统提示词全局底层指令固定设定 AI 角色、规则、输出格式全程生效。User Prompt 用户提示词普通人输入的对话内容。Few-shot 少样本提示在提示词内附带少量示例引导 AI 模仿格式、逻辑进行输出。Zero-shot 零样本不给示例直接让模型完成任务。CoT 思维链Chain of Thought引导模型 “一步步思考”先输出推理过程再给出答案大幅提升复杂问题正确率。ToT 树状思考Tree of Thought多条思考分支并行探索适合复杂决策、头脑风暴类任务。提示词工程 Prompt Engineering系统化设计、优化指令控制模型输出格式、逻辑、行为不是单纯写优美文案。上下文工程 Context Engineering高阶分支负责对话上下文裁剪、压缩、排序、Token 预算管控解决长会话问题。五、生成参数控制调用 API 高频参数Temperature 温度控制生成随机性。 趋近 0答案稳定、标准适合代码、问答 趋近 1创意更强容易发散适合写作、策划。Top-P核采样概率阈值筛选候选词汇。只使用累计概率达到阈值的候选集合。Top-K固定选取概率最高的 K 个候选 Token 进行采样。重复惩罚 Repetition Penalty降低 AI 不断重复相同句子的概率。六、AI Agent 智能体全套术语2026 最热赛道AI Agent 智能体具备自主规划、思考、调用工具、循环执行任务的 AI 系统不止单次一问一答。Function Calling / Tool Calling 工具调用模型输出结构化 JSON自动调用外部工具联网搜索、接口、数据库、代码执行器。ReAct 推理行动范式主流 Agent 框架思考→执行动作→观察结果→再次思考循环迭代完成复杂任务。Reflexion 反思机制任务结束或者执行失败后Agent 复盘错误优化后续决策减少重复犯错。记忆 MemoryAgent 核心组件瞬时记忆当前上下文窗口内对话短期会话记忆本轮任务历史摘要长期记忆持久化存储用户信息、历史任务通常依靠向量库Skill 技能Agent 可调用的能力封装查询数据、文件读写、接口请求都可以封装为 Skill。Workflow 工作流预先编排好的 AI 任务流程固定步骤执行区别于自主决策的 Agent。Agentic RAG具备规划能力的高级知识库检索智能判断查什么、查几次、合并结果优于传统 RAG。LangGraph主流 Agent 开发框架基于图结构搭建智能体循环、分支、反思流程。七、知识库RAG KAG 体系术语RAG 检索增强生成Retrieval-Augmented GenerationAI 回答前先在私有知识库检索相关资料结合资料生成答案。解决模型知识过时、私有数据无法输入、幻觉问题。Embedding 嵌入 / 向量化将文字、图片转化为一串高维数字向量。语义相近的文本向量距离更近。是向量检索底层基础。向量数据库 Vector Database专门存储 Embedding 向量快速做相似度检索代表Milvus、Qdrant、Chroma。分块 Chunking把长文档切分成小段文本用于向量化入库。切片大小、重叠度直接影响检索精度。混合检索 Hybrid Search稠密向量检索语义 稀疏检索关键词结合兼顾语义匹配与精准关键词命中。重排序 Rerank初次检索拿到多条结果使用专门模型二次打分筛选过滤无关文档提升 RAG 准确率。KAG 知识图谱增强生成基于知识图谱存储实体、关系适合强关联、复杂逻辑问答企业图谱、政务、医疗场景。知识图谱 Knowledge Graph由实体、关系组成结构化知识网络【实体 A】-【关系】→【实体 B】。八、算力、硬件、部署相关名词GPU 图形处理器大模型训练、推理主流硬件擅长并行计算。NVIDIA A10、A100、H100 行业通用。NPU 神经网络处理器端侧 AI 芯片手机、本地 PC 小模型推理功耗低。TPU Google 自研 AI 芯片谷歌云专用算力芯片。推理 Inference模型训练完成后接收用户提问、生成回答的过程面向终端用户。训练 Training投喂海量数据调整模型参数学习知识的过程。私有化部署模型部署在企业自己服务器数据不流出内网对比公有云 API。公有云 API调用厂商云端模型接口阿里云百炼、DeepSeek、智谱等无需自备显卡。吞吐量 Throughput单位时间模型能够处理的请求数量衡量服务并发能力。时延 Latency发送提问到 AI 返回首字的等待时间。九、AI 应用、开发圈内黑话VibeCoding依靠 AI 大模型辅助编程以提示词驱动快速搭建 Demo、网站、应用无需熟记全部代码。端侧模型运行在本地电脑、手机不需要联网调用云端。SaaS AI 应用云端 AI 软件开箱即用例如各类 AI 写作、AI 思维导图平台。上下文污染无用信息、错误内容大量占用上下文窗口干扰模型正常判断。越狱 Jailbreak通过特殊提示词绕过模型安全限制诱导模型输出受限内容不建议尝试。多轮对话状态持续聊天场景模型需要读取历史对话理解上下文。可观测性 Observability监控 Agent/RAG 完整执行链路检索内容、工具调用、思考过程定位问题解决 “AI 黑盒” 问题。限流 429API 请求频率超限服务商拒绝提供服务高频开发踩坑错误码。十、行业商务黑话看懂行业发布会、社群交流赋能给传统系统接入 AI 能力圈内高频泛用词。端到端 End-to-End原始输入直接输出最终结果中间无需人工干预。原生 AI Native AI产品从底层设计围绕大模型构建而非传统软件简单加装 AI 功能。场景落地把 AI 技术投入真实业务使用不只是 Demo 演示。规模化从少量测试扩大至大量用户、大批量业务持续运行。全文总结AI 领域名词更新速度极快每天不断出现新框架、新概念。 新手学习建议顺序基础 LLM 概念 → Token / 上下文窗口 → Prompt 工程 → RAG 知识库 → Agent 智能体。 不要一次性死记所有名词结合实战开发、搭建 Demo理解会更加深刻。后续持续更新最新开源框架、新模型衍生术语建议收藏本文遇到陌生名词随时查阅。
![[C++]内存管理：串顺序存储的内存回收](http://pic.xiahunao.cn/yaotu/[C++]内存管理：串顺序存储的内存回收)
