一、前言很多刚入门大模型开发的朋友一上来就被Token、RAG、Agent、微调、蒸馏等一大堆专业术语搞得一头雾水。看不懂名词后面学搭建智能体、知识库、大模型应用都会处处碰壁。本篇专栏用通俗易懂的讲解逐个拆解大模型高频名词零基础、非算法方向的程序员也能看懂帮你扫清大模型学习路上的名词障碍为后续实战开发打好基础。二、提示工程Prompt Engineering提示工程教你怎么“正确提问AI”的技术你给AI发的每一句话都叫Prompt提示词。提示词Prompt是用于大语言模型LLM的输入文本帮助引导LLM生成相应的输出。• User Prompt 用户提示词• System Prompt 系统提示词系统提示词表示大模型的初始化角色或者能力的设定比如说如果你是客服那么就设定为客服专家如果是做产品分析那么就设定为产品分析师。同样的模型不同提示词效果天差地别。• 标准高质量提示词四要素1.角色你现在是资深Python工程师/技术博主/文案师……2.任务你需要完成什么事3.要求字数、风格、格式、是否通俗、是否严谨……4.限制不许胡说、不许冗余、分布回答……三、Token详解汉字对我们是”字“Token对AI就是它的”最小识字单位“。AI不能直接读汉字、英文、标点必须把文字切碎成小块这就是Token。在大模型中Token是模型处理和理解文本的基本单位。模型通过将用户输入文本分割成Token然后在这些Token的基础上进行计算和推理。换算规则• 中文1个汉字 ≈ 2个Token• 英文4个英文字母 ≈ 1个Token• 标点、空格、符号全部都算TokenToken决定两个核心东西1.上下文窗口最大对话长度每款模型都有最大Token限制例如 4K、8K、32K、128K。Token越大 一次能读的文章越长、记忆对话越多。2.计费价格所有大模型收费规则输入Token 输出Token 你的费用字越多、对话越长、越花钱注意不是字数超限才崩是Token超限就直接截断、失忆、乱答。四、模型蒸馏 Model Distillation通俗理解• 大模型学霸、知识多、反应慢、很贵• 小模型学渣、知识少、很快、免费、能本地跑蒸馏 让学霸大模型疯狂出题、写答案教给学渣小模型最终训练出一个体积小、速度快、占内存少、效果接近大模型的轻量化模型• 蒸馏的作用1.让低配电脑、手机也能跑AI2.降低企业部署成本3.提高响应速度4.适合嵌入式、本地私有化部署五、模型参数大小详解参数 AI大脑里的脑细胞数量B Billion十亿• 7B 70亿参数• 14B 140亿参数• 70B 700亿参数参数大意味着逻辑更强、知识面更广、理解能力更好、写代码推理创作更稳但显存、内存占用极高、运行速度变慢、收费更贵、普通电脑跑不动。❗注意不是参数越大越强劣质大模型不如优质小模型。训练数据质量、架构、优化方式比单纯参数更重要。六、Function-Calling函数调用核心问题原生大模型很弱。普通大模型只会打字不能联网、不能查实时天气、不能查数据库、不能操作文件、不能调用接口但OpenAI提供了function_call能力让大模型可以调用外部工具获取信息自动调用你写好的工具/代码/接口。完整流程示例1.用户提问今天重庆天气怎么样2.AI判断我知识库没有实时天气3.AI自动生成调用指令4.程序接口去网上查询真实数据5.数据返回给AI6.AI整理成自然语言回答用户AI插件、联网搜索、智能办公、自动填表、数据库问答底层全部是Function Calling七、MCPAgent智能体普通AI VS Agent智能体• 普通大模型一问一答被动执行• Agent智能体接受目标、自己拆任务、自己规划、自己调用工具、自动跑完整套流程举个超级直观例子任务帮我规划重庆一日游攻略普通AI直接给一段文字Agent AI自动查指定日期天气、查热门景点、查票价和开放时间、规划路线顺序、安排用餐地点、整合输出完整攻略Agent 会自主思考、自主干活的AI机器人MCP是智能体和工具之间的统一通信协议简单说给Agent统一的万能接口让它能顺畅调用各种工具、插件、数据库大幅降低智能体开发难度是现在主流Agent开发标准• MCP Servera. 基于各种语言的MCP SDK开发的程序或服务b. 基于某种神秘的机制将现存的程序或服务进行了转换使其成为了MCP Server• MCP ToolMCP Tool 所属于 MCP Server一个MCP Server可以有多个MCP Tool• MCP Client当一段代码一个Agent一个客户端基于MCP的规范去使用、去调用MCP Server里的MCP Tool时它就是MCP Client。MCP的好处• 简化开发写一次多次集成无需为每个集成重写自定义代码• 灵活性切换AI模型或工具时无需复杂重新配置• 实时响应MCP连接保持活动状态实现实时上下文更新和交互• 安全性与合规性内置访问控制和标准化的安全实践• 可扩展性随着您的AI生态系统增长轻松添加新功能-只需连接另一个MCP服务器八、Coze介绍Coze是字节跳动推出的零代码AI应用搭建平台能让用户无需复杂编码然后通过可视化的操作去设置工作流快速的去构建各类的AI应用能干什么• 拖拽搭建AI聊天机器人• 一键搭建私有知识库问答• 搭建工作流、自动任务• 无需编程、零基础上手• 一键发布网页、抖音、豆包、小程序九、Dify低代码平台讲解开源、可私有化部署的AI应用开发平台功能和Coze类似但定位完全不同Coze面向普通用户、快速玩Dify面向开发者、做项目、做产品、商用开发• 核心优势1.开源免费2.可以部署在自己的服务器数据绝对私有3.支持深度工作流编排4.适合做企业知识库、私有化AI系统十、模型温度 TemperatureTemperature温度参数是控制AI生成文本随机性的关键参数取值范围通常为0到1部分模型更高。简单来说低温度接近0AI化身严谨学霸几乎不发挥、不瞎编选择最可能的输出高温度接近1~2AI化身狂野艺术家拥抱创造性随机新手万能参数配置• 技术工作0.1~0.3• 日常聊天0.5~0.7• 创意写作0.8~1.0十一、RAG检索增强生成解决大模型最大痛点知识过时、不能学你的资料。大模型训练数据是固定时间的旧数据它不知道你的公司文档、不知道你的笔记、不知道你的课程资料、不知道最新新闻。RAG是什么检索增强生成技术检索内部数据库增强提示词生成答案让AI实时读取你的私有文档再回答问题。RAG完整四步原理1.文档切片上传PDF/Word/TXT切成小块2.向量化存储转为向量存入向量数据库3.检索匹配用户提问转换为向量自动找到最相关文档片段4.增强回答把文档问题一起交给大模型基于你的资料回答十二、模型微调 Fine-TuningRAG和微调的区别RAG临时查资料不改变模型本身像开卷考试翻书答题考完就忘微调永久修改模型权重像重新补课强行让模型学会你的风格、知识、话术适用于行业专属AI、固定话术客服机器人、固定输出格式、专属文风、专属逻辑等• Lora微调底层原理就是原本的参数不变而是在这个参数的基础上再去加一些参数。所以它的好处就是1.第一个减少了运算量不需要那么大的一个算力支出2.第二个就是新的参数跟初始参数是类似的因为它是在原本的基础上再加的所以就保证了模型的质量不会太差。十三、结语本篇文章把大模型入门阶段最常见的专业名词全部讲解完毕。提示工程、Token、RAG、Agent、微调、蒸馏、Function-Calling、Dify、Coze这些就是大模型世界最基础的通用语言。对于普通应用开发人员来说前期不需要一头扎进复杂的算法、数学公式里面。先搞懂概念学会使用现成的大模型、低代码平台快速做出可运行的AI项目是新手最高效的学习路径。弄懂这些基础概念之后你就可以正式开启AI大模型应用实战开发动手搭建属于自己的知识库、AI智能助手。