D1 | 大模型到底是什么？传统开发者的第一性原理
文章目录
- D1 | 大模型到底是什么？传统开发者的第一性原理
- 写在前面
- 一、为什么我们"看不懂" LLM
- 二、传统程序 vs LLM：第一性原理对比
- 核心差异表
- 三、Token：AI 世界的"字节"
- 3.1 什么是 Token
- 3.2 Token 为什么重要
- 3.3 Token 计算器（实战小工具）
- 四、自回归：AI 怎么"一个字一个字"说话
- 4.1 一个直觉
- 4.2 流程图
- 4.3 Temperature：控制"话痨程度"
- 4.4 为什么 LLM 有时"答非所问"
- 五、注意力机制：AI 怎么"理解上下文"
- 5.1 一个会议类比
- 5.2 不讲 QKV，但要知道一个限制
- 5.3 注意力机制的 3 个直觉结论
- 六、3 分钟跑通你的第一个 LLM 程序
- 6.1 准备
- 6.2 第一个 LLM 程序
- 6.3 看看 Token 到底怎么算钱
- 6.4 对比 Temperature 效果
- 七、这一篇的小结
- 7.1 一张图总结 LLM 工作原理
- 7.2 5 个 Key Takeaway
- 7.3 思考题（欢迎评论区讨论）
- 下篇预告
D1 | 大模型到底是什么？传统开发者的第一性原理
写给每一个写过 10 年代码，却第一次想搞懂 LLM 的工程师
本文是《60 天 AI 全栈转型：传统开发者的大模型工程师之路》S1 第 1 篇
配套代码仓库：gitcode.com/road-emblem/60-days-ai-stack
写在前面
两年前，我开始用 ChatGPT 写代码。
一年前，我开始用 Claude 改方案。
半年前，我开始自己搭 RAG、训模型。
这个过程里，最让我意外的不是 AI 有多强，而是我发现自己对 AI 一无所知。
我写过 10 年后端、做过 5 年架构、读过几十篇 AI 论文摘要。但每次想跟同事解释"ChatGPT 到底在干嘛"时，我都会卡壳。
我能说出"Transformer"、“注意力机制”、"自回归"这些词，但连起来讲一个完整的故事，就讲不清了。
如果你跟我有一样的感受，这篇文章就是写给你的。
目标不是让你变成算法专家，而是让你在 30 分钟内，建立起对 LLM 工作原理的"第一性直觉"——这个直觉会让你后