1. 从“只会聊天”到“能干活”LLM 超级助理到底缺什么很多人第一次用大模型 API 写代码时都会经历一个相似的落差模型能写诗、能解释概念、能补全函数但一旦让它“查一下我项目里的接口文档再改代码”“把这条数据写进数据库”“根据今天的天气决定要不要提醒我带伞”它就开始一本正经地胡说八道。原因不复杂——LLM 本质是一个基于海量语料训练出来的下一个词元概率预测模型它的知识停在训练截止日它没有手也没有眼睛无法和真实世界交互。要把这个“读死书的书呆子”变成能落地的超级助理业界已经收敛出四条技术主线Prompt 工程负责把指令说清楚RAG 检索增强负责给它外挂动态知识库Function Calling 负责让它能调用外部函数真正动手MCP 则负责把工具接入这件事标准化。四者叠加才构成一个可维护、可扩展的 Agent 工作流。但真正动手时第一道坎往往不是这四项技术本身而是“Key 太多”。OpenAI 一个 Key、Claude 一个 Key、国产模型又一个 Key每个平台的 Base URL、鉴权头、模型名、计费方式都不一样。你只是想跑通一个 RAG Demo结果一半时间花在环境变量和 SDK 兼容上。这篇就按“统一入口 → 四项能力逐个打通 → 逐项验证”的顺序把从零搭建 LLM 超级助理的路径走一遍配置骨架可以直接复制。2. 前置准备用 TaoToken 统一 Key 和 API 通道2.1 为什么先解决“通道”问题四大核心技术里Prompt 是纯文本RAG 需要 embedding 模型加对话模型Function Calling 和 MCP 需要稳定的工具调用能力。如果每个环节都换一个平台、换一套 Key调试成本会指数级上升。更现实的问题是不同厂商对 function calling 的返回格式、流式协议、错误码定义都有差异你在本地跑通的代码换一个模型就可能报invalid tool_call format。TaoToken 在这里扮演的角色是统一入口一个 Key、一个 Base URL兼容主流模型的调用格式把鉴权和路由收敛到一处。这样你的 settings.json 和 config.toml 里只需要维护一份凭证切换模型时改一个模型名即可不用动业务代码。官网入口https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 地址https://taotoken.net/api2.2 拿到 Key 并确认可用模型登录后进入控制台在 API Keys 页面创建一个新 Key。建议按用途分 Key比如dev-rag、dev-agent方便后续排查是哪个环节在消耗额度。创建后先别急着写业务代码用一条 curl 确认连通性和模型列表curl https://taotoken.net/api/v1/models \ -H Authorization: Bearer $TAOTOKEN_API_KEY返回里会列出当前可用的模型标识。把对话模型和 embedding 模型分别记下来后面 RAG 和 Function Calling 会分别用到。控制台地址https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content注意Key 只放在环境变量或本地配置文件里不要硬编码进提交到 Git 的代码。.env记得加进.gitignore。3. 可复制配置settings.json 与 config.toml 骨架3.1 settings.json给 Cline / Claude Code 类工具用如果你用 Cline、Claude Code 这类编码助手它们通常读取一个 JSON 配置来指定 API 通道。下面这份骨架把 TaoToken 作为统一入口模型名按你控制台里实际可用的填{ apiProvider: openai-compatible, apiKey: ${TAOTOKEN_API_KEY}, baseUrl: https://taotoken.net/api/v1, model: your-chat-model-id, embeddingModel: your-embedding-model-id, temperature: 0.3, maxTokens: 4096, tools: { enabled: true, parallelCalls: false } }tools.enabled打开后Cline 在需要时会自动发起 function callingparallelCalls先关掉单步调试更清晰等链路稳定再开。3.2 config.toml给 CC Switch 做多环境切换CC Switch 的价值在于一份配置管理多套环境。下面这份 TOML 把 dev 和 prod 分开共用同一个 TaoToken Key只切换模型和参数[default] provider taotoken base_url https://taotoken.net/api/v1 api_key_env TAOTOKEN_API_KEY [profiles.dev] model your-chat-model-id temperature 0.5 max_tokens 2048 rag_top_k 3 [profiles.prod] model your-stronger-model-id temperature 0.2 max_tokens 8192 rag_top_k 5 [mcp] enabled true servers [local-tools]rag_top_k是给 RAG 检索用的召回条数dev 阶段调小方便看命中prod 再放大。[mcp]段先声明一个本地工具服务第 6 节会讲怎么注册确认。3.3 环境变量收口export TAOTOKEN_API_KEYsk-你的key export TAOTOKEN_BASE_URLhttps://taotoken.net/api/v1所有 SDK 初始化都读这两个变量换平台时只改这里。4. 四大能力逐个打通与验证4.1 Prompt 工程先让指令可控Prompt 不是玄学它是你和模型之间的控制语言。一个可复用的结构是角色 任务 背景 约束 输出格式。比如做代码审查助手你是一位资深后端工程师。 任务审查下面这段 Python 代码找出并发安全问题。 背景这是生产环境的订单处理逻辑QPS 约 500。 约束只指出确定的问题不要猜测每条问题给出行号和修复建议。 输出格式Markdown 表格列为「行号 | 问题 | 严重级别 | 建议」。 代码 {code}验证动作把同一段代码分别用“无角色”和“带角色格式约束”的 Prompt 跑一次对比输出结构。如果后者稳定输出表格且不跑题说明 Prompt 层可控。这一步不做后面 RAG 注入的上下文和 Function Calling 的参数都会被模型随意解读。4.2 RAG让助理查得到、答得准RAG 的流程是文档切片 → 向量化入库 → 用户提问向量化 → 检索 top-k 片段 → 拼进 Prompt → 模型生成。用 TaoToken 的 embedding 模型做向量化代码骨架import os from openai import OpenAI client OpenAI( api_keyos.environ[TAOTOKEN_API_KEY], base_urlos.environ[TAOTOKEN_BASE_URL], ) def embed(texts): resp client.embeddings.create( modelyour-embedding-model-id, inputtexts, ) return [d.embedding for d in resp.data] def retrieve(query, docs, top_k3): import numpy as np q np.array(embed([query])[0]) d np.array(embed(docs)) sims d q / (np.linalg.norm(d, axis1) * np.linalg.norm(q) 1e-8) idx sims.argsort()[::-1][:top_k] return [docs[i] for i in idx]验证动作准备 5 段文档其中一段明确写了“退款到账时间为 3 个工作日”提问“退款多久到账”。如果检索结果第一条就是那段文档且模型回答引用了它说明检索命中正常。如果命中错乱先检查切片粒度——按固定字数硬切会把一句话切断建议按段落或标题切。4.3 Function Calling让助理真的能动手Function Calling 的关键是模型只负责决定“调哪个函数、传什么参数”真正执行在你自己的代码里。先定义工具描述tools [{ type: function, function: { name: get_order_status, description: 根据订单号查询订单当前状态, parameters: { type: object, properties: { order_id: {type: string, description: 订单号} }, required: [order_id] } } }]调用与回环resp client.chat.completions.create( modelyour-chat-model-id, messages[{role: user, content: 帮我查一下订单 A123 的状态}], toolstools, ) msg resp.choices[0].message if msg.tool_calls: call msg.tool_calls[0] args json.loads(call.function.arguments) result get_order_status(**args) # 你的真实函数 follow client.chat.completions.create( modelyour-chat-model-id, messages[ {role: user, content: 帮我查一下订单 A123 的状态}, msg, {role: tool, tool_call_id: call.id, content: str(result)}, ], ) print(follow.choices[0].message.content)验证动作观察msg.tool_calls是否非空、arguments是否是合法 JSON、回填后模型是否用自然语言总结了结果。如果模型不调用工具通常是 description 写得太模糊或者模型本身工具调用能力弱换一个更强的模型再试。4.4 MCP把工具接入标准化MCP 解决的是“每个人写的 Function 传输标准不一样”的问题。它把工具注册、状态管理、客户端与服务端通信收敛成一套协议。一个最小服务端from mcp.server import Server from mcp.server.stdio import stdio_server server Server(local-tools) server.tool() def add(a: int, b: int) - int: 两数相加 return a b async def main(): async with stdio_server() as (r, w): await server.run(r, w, server.create_initialization_options()) if __name__ __main__: import asyncio asyncio.run(main())在 config.toml 的[mcp]段注册后验证动作是启动客户端确认工具列表里出现add然后发一条“3 加 5 等于几”看是否走 MCP 工具回环而不是模型直接算。如果工具没注册上检查服务端启动命令路径和 stdio 是否被其他日志污染。5. 本篇常见错排查报错401 Unauthorized九成是 Key 没读到环境变量。先echo $TAOTOKEN_API_KEY确认非空再检查 SDK 初始化时 base_url 是否带了/v1。TaoToken 的 API 根是https://taotoken.net/apiOpenAI 兼容路径是/api/v1两者别混。报错model not found模型标识必须和控制台/v1/models返回的一致大小写和连字符都不能错。切换模型后记得同步改 settings.json 和 config.toml 两处。RAG 检索总是命中无关片段先确认 embedding 模型和对话模型是同一套通道下的再检查切片是否把标题和正文切散了。一个实用做法是切片时保留上一段标题作为前缀。Function Calling 返回invalid tool_call format不同模型对 tool_calls 的字段命名有差异有的用function.arguments有的直接给arguments。打印原始resp看结构按实际字段解析别照抄某一家文档。MCP 工具注册后调用无响应stdio 模式下服务端的 stdout 只能用于协议通信任何print调试都会破坏协议。把调试信息写到 stderr 或文件。流式输出中断检查max_tokens是否设得太小以及网络层是否有超时。长链路 Agent 建议把超时设到 60 秒以上。6. 按场景选入口把链路跑成习惯链路跑通之后日常使用其实分三种场景入口也不同。调试 Prompt、对比模型输出、验证 RAG 命中效果这类“看结果”的活直接用模型对话页面最省事改完 Prompt 立刻能看到差异https://taotoken.net/chat?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content需要长期在编辑器里做编码、让助手读项目上下文、跑 Function Calling 和 MCP 工具回环的走 Coding Plan 更合适配置一次长期复用https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content接入过程中遇到鉴权、模型名、工具格式这类具体报错先翻接入文档对照参数再回控制台确认 Key 状态接入文档 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API Keys 管理 https://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content如果你用 Claude Code 这类工具Anthropic 兼容接入的配置示例在这里https://taotoken.net/ClaudeCodeAnthropic?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content最后说一个我踩过的坑一开始我把 RAG 的 top_k 设成 10觉得召回越多越好结果 Prompt 被塞满模型反而抓不住重点回答变得又长又空。后来降到 3 到 5配合“只依据提供的片段回答片段没有就说不知道”的约束准确率明显上升。工具链路也是一样先跑通单步再开并行别一上来就追求全自动。