2026 年Anthropic 与 OpenAI 的营收加速增长是 AI 行业被讨论最多的话题之一。但把这句话从新闻翻译成工程语言会得到一个更诚实的结论两家公司的收入增长依赖的是大量开发者持续把 API 调用写进应用、工具链和生产系统。新模型发布只是前台叙事后台的 API 接入、认证、限流、计费、超时和稳定性才是决定一个模型能否被真正使用的关键。这篇文章不讨论具体财报数字也不预测股价。文章会以 Anthropic API 和 OpenAI API 为载体走一遍从环境准备、最小调用、参数调优到连接失败排查、成本监控和工程化集成的完整链路。适合后端开发、AI 应用工程师和算法工程同学也适合准备把大模型能力接入自己项目的初学者。读完以后你能独立完成两种 API 的接入能解释unable to connect to anthropic services这类常见报错背后的问题层级也能在遇到 401、404、429、503 时知道先查哪里。1. 营收增长背后是大量真实的 API 调用在生产系统里持续发生1.1 模型厂商如何把能力变成收入大模型公司的收入来源通常分为三类第一类是按 token 计费的 API 调用开发者每请求一次厂商按输入和输出 token 数量结算费用第二类是企业订阅和私有化授权适合对数据合规要求较高的客户第三类是以编程助手为代表的终端产品例如基于模型能力开发的代码生成、文档总结和客服机器人。在这三类收入里API 是技术底座。模型能力再强如果接入流程复杂、错误码不可理解、限流频繁、文档缺失开发者就不会把它写进核心业务。营收加速增长往往意味着三件事同时在发生调用量在变大单次调用的业务价值在提高调用场景从技术 Demo 走向了生产环境。1.2 开发者真正遇到的问题集中在接入层从实际搜索行为来看大量开发者关注的问题集中在接入层。比如unable to connect to anthropic services、failed to connect to api.anthropic.c、openai api key获取、openai api协议、openai codex 下载、vllm ollama openai langchain、python openai。这些问题与技术无关模型能力的上限而是“怎么连上”“为什么连不上”“连上以后怎么稳定使用”。“连上”是第一步“稳定使用”是第二步。很多项目在原型阶段调用得很顺利一旦进入生产环境就会遇到超时、限流、配额不足、模型名过期、密钥权限不足等问题。这些问题的排查路径往往是同一条链路从服务状态开始一路检查网络、认证、参数、配额和客户端配置。1.3 本文覆盖的边界与阅读方式本文不写财务分析也不会给出“买哪家更合适”的结论。文章把营收增长当作背景重点回答四个问题Anthropic 和 OpenAI API 是什么开发环境里如何完成最小接入连接失败时如何定位问题生产环境还需要补齐哪些工程能力。学习环境下你可以直接按照第 3 到第 4 章的步骤跑通代码。生产环境下建议重点阅读第 5 到第 6 章把超时、重试、日志、配额监控和密钥管理补齐再引入 LangChain、Codex 等上层工具。2. 接入之前先对齐端点、认证、计费与模型选型2.1 Anthropic 与 OpenAI API 的基本形态Anthropic 的主接口是 Messages API端点地址通常是https://api.anthropic.com/v1/messagesOpenAI 的主接口是 Chat Completions API新版 SDK 中也称为 Responses API常用的兼容端点地址是https://api.openai.com/v1/chat/completions两个接口的认证方式不同这是新手最容易踩坑的地方。项目Anthropic APIOpenAI API认证方式请求头x-api-key请求头Authorization: Bearer key版本请求头需要anthropic-version例如2023-06-01不需要固定的版本头环境变量ANTHROPIC_API_KEYOPENAI_API_KEY常用 SDKanthropicopenai常见错误是把ANTHROPIC_API_KEY当成 Bearer Token 传给 OpenAI或者调用 Anthropic 时漏掉anthropic-version请求头。对 Anthropic 来说缺版本头通常会导致 400 或 401 级别的错误对 OpenAI 来说缺失或写错认证头则直接返回 401。2.2 API Key 的获取与环境变量管理API Key 在各自控制台创建。创建时建议给每个 Key 单独命名明确用途例如local-dev、staging-server、batch-job。不要创建一把 Key 到处通用也不要使用账号密码去调用 API。在实际项目中推荐把 Key 放到环境变量或密钥管理服务中。本地开发可以先写入.env文件ANTHROPIC_API_KEYsk-ant-你的密钥 OPENAI_API_KEYsk-你的密钥下面用 Python 示例读取from dotenv import load_dotenv load_dotenv()注意不要把 API Key 提交到 Git 仓库不要在公开日志、代码片段、Issue 或博客文章里粘贴真实 Key。任何公开环境出现的 Key都应该立即吊销并重新生成。2.3 token 计费与配额token 是模型处理文本的最小单位。在英文里一个 token 大致对应一个单词的一部分在中文里一个 token 经常对应一个字或几个字。模型按 token 数量计费通常分为输入价格和输出价格输出价格普遍高于输入价格。调用时还需要关注两个限制max_tokens限制单次输出的最大 token 数量。配额Rate Limit控制单位时间内的请求数量和 token 总量。配额超限时服务端通常返回 429。很多开发者在第一次上线时遇到 429却以为是代码问题搜索半天才发现只是配额不够了。实际项目里应提前确认当前账户的每分钟请求数RPM、每分钟 token 数TPM和每日用量限制。2.4 模型选型与场景匹配选模型时要考虑延迟、成本、上下文长度、工具调用能力和数据合规要求。这里不推荐具体版本因为模型名变化很快要以官方控制台或文档中的可用列表为准。使用场景云端厂商候选本地或兼容方案通用对话、内容生成、总结分类Anthropic 官方旗舰或轻量模型Ollama 上的开源模型编程助手、代码生成、代码审查OpenAI 或 Anthropic 的编程类模型Codex CLI、vLLM 部署模型敏感数据内部处理需要做数据合规评估后再选择本地部署开源模型原型验证、学习测试任选一家环境变量隔离OpenAI 兼容接口本地模型的好处是数据不出内网成本可控缺点是需要显卡资源效果和工具调用能力往往不如云端 API。生产环境选型时先确认“能不能用”再看“值不值”最后才比较“谁更强”。3. 环境准备Python 版本、SDK 与最小项目结构3.1 环境要求本文示例使用 Python 和官方 SDK。建议版本不低于 Python 3.9实际开发中 3.10 或 3.11 更稳妥具体以 SDK 官方依赖要求为准。网络层面需要保证本机或服务器能访问api.anthropic.com和api.openai.com。如果公司出口网络做了域名白名单需要提前和网络管理员确认这两个域名是否在允许列表中否则调用时会出现持续超时或连接失败。3.2 创建虚拟环境并安装依赖建议把每个演示项目放在独立虚拟环境里避免污染全局 Python。mkdir llm-api-demo cd llm-api-demo python -m venv .venv source .venv/bin/activate pip install --upgrade pip pip install anthropic openai python-dotenv安装完成后可以检查版本pip show anthropic openai3.3 项目结构与配置最小项目结构如下llm-api-demo/ ├── .env ├── .gitignore ├── anthropic_demo.py └── openai_demo.py.env文件写入前文提到的密钥。.gitignore中至少包含.env .venv/ __pycache__/这里要注意如果项目已经用git init初始化修改.gitignore后要检查是否还有历史版本把.env提交进去了。Key 一旦进过 Git 历史即使删掉文件也仍然存在于历史记录中应该直接吊销。3.4 密钥加载的常见问题load_dotenv()只能加载脚本运行目录附近的.env文件。以下几种情况会导致密钥读取失败终端已经打开在修改.env后没有重启终端。IDE 运行配置没有读取项目根目录的.env。环境变量名拼写错误比如写成了ANTHROPIC_KEY。部署环境中没有.env文件也没有注入环境变量。推荐做法是代码里统一使用os.getenv(ANTHROPIC_API_KEY)读取缺少时抛出一个清晰异常而不是让 SDK 返回一个含糊的认证错误。4. 最小调用实现两种 API 对照着写4.1 Anthropic 基础调用先写一个最简单的anthropic_demo.pyimport os from anthropic import Anthropic client Anthropic() # 默认读取 ANTHROPIC_API_KEY response client.messages.create( modelclaude-sonnet-4-5, # 示例模型名实际以控制台可用列表为准 max_tokens1024, messages[ {role: user, content: 用一句话解释什么是有理数} ], ) print(response.content[0].text)Anthropic 的 Messages API 要求传入messages参数其中role是user或assistant。可选的system参数用于设置系统提示词可以单独传递response client.messages.create( modelclaude-sonnet-4-5, max_tokens1024, system你是一位数学老师回答要简洁。, messages[ {role: user, content: 解释什么是有理数} ], )4.2 OpenAI 基础调用再写一个openai_demo.pyfrom openai import OpenAI client OpenAI() # 默认读取 OPENAI_API_KEY response client.chat.completions.create( modelgpt-4.1, # 示例模型名实际以控制台可用列表为准 messages[ {role: system, content: 你是一位数学老师回答要简洁。}, {role: user, content: 解释什么是有理数}, ], max_tokens1024, ) print(response.choices[0].message.content)OpenAI 的 Chat Completions 接口把系统提示词放进messages数组中role为system。返回结构也与 Anthropic 不同Anthropic 的内容在response.content[0].textOpenAI 的内容在response.choices[0].message.content。4.3 流式输出与连接超时设置流式输出适合聊天类产品能够降低用户等待感。Anthropic SDK 的流式写法from anthropic import Anthropic client Anthropic(timeout30.0) with client.messages.stream( modelclaude-sonnet-4-5, max_tokens1024, messages[{role: user, content: 写一段关于 API 超时设置的说明}], ) as stream: for text in stream.text_stream: print(text, end)OpenAI SDK 的流式写法from openai import OpenAI client OpenAI(timeout30.0) stream client.chat.completions.create( modelgpt-4.1, messages[{role: user, content: 写一段关于 API 超时设置的说明}], streamTrue, ) for chunk in stream: delta chunk.choices[0].delta.content if delta: print(delta, end)这里的timeout30.0表示客户端等待响应的总超时时间。生产环境不要依赖默认超时因为默认值可能过长也可能因为网络抖动导致请求悬挂过久。建议把超时拆成连接超时和读取超时例如连接 5 秒、读取 60 秒具体数值根据模型响应速度调整。4.4 OpenAI 兼容格式接入本地模型很多本地推理框架实现了 OpenAI 兼容接口这意味着你可以继续使用openaiSDK只改base_url和api_key。Ollama 启动后默认监听11434端口ollama pull qwen2.5:7b ollama servePython 调用from openai import OpenAI client OpenAI( base_urlhttp://localhost:11434/v1, api_keyollama, # 本地服务不校验但必须传值 ) resp client.chat.completions.create( modelqwen2.5:7b, messages[{role: user, content: 你好}], ) print(resp.choices[0].message.content)vLLM 同样支持vllm serve Qwen/Qwen2.5-7B-Instruct --api-key local-test-key然后可以把base_url改成http://localhost:8000/v1这种方式适合开发环境和内网部署。要注意本地模型没有经过云端服务的鉴权不要把本地服务直接暴露到公网必须加在内网或认证网关后面。4.5 关键参数速查参数作用常见取值调大影响调小影响model选择模型版本以控制台为准能力更强成本更高更便宜但能力可能下降messages对话消息列表按rolecontent组织可携带更多上下文上下文不足时回答可能偏差max_tokens限制输出 token 数100 到 4096 不等输出可更长输出可能被截断temperature控制随机性0 到 1更发散更稳定、更确定性timeout客户端总超时连接 5 秒读取 30 到 60 秒不易超时但失败感知慢快速失败但波动时易误判stream是否流式返回true/false首字节更快等待完整响应5. 从连接失败到错误码一条可复用的排查链路5.1 高频现象Unable to connect to Anthropic servicesunable to connect to anthropic services是网络连接层错误不是模型返回的内容错误。类似报错还有failed to connect to api.anthropic.c Connection error. APIConnectionError其中api.anthropic.c看起来像域名被截断。遇到这种情况先看完整报错确认请求的域名是api.anthropic.com而不是少写了om。这类连接错误可能来自四个方面官方服务故障或过载、本机到目标域名的网络不通、客户端超时时间设置过短、公司出口网络有域名或端口限制。5.2 排查顺序先服务状态再网络后认证推荐按下面的顺序排查不要一开始就怀疑模型或代码1. 官方服务状态页是否正常。 2. 域名拼写和请求端点是否正确。 3. 本机到域名是否连通。 4. 是否有 DNS 解析问题。 5. 出口网络是否限制目标域名。 6. 超时配置是否太短。 7. SDK 版本和客户端参数是否正确。 8. API Key 是否有效、是否有配额。 9. 用最小脚本复现问题。检查网络连通性时可以先发一个不带业务参数的请求curl -I https://api.anthropic.com/v1/messages curl -I https://api.openai.com/v1/chat/completions如果返回 401 或 400说明网络链路是通的问题在认证或参数如果返回连接超时或Could not resolve host说明问题在网络层、DNS 层或域名白名单。注意curl返回 401 不一定是 Key 错了可能是你故意没有带 Key。这个结果只能判断“网络通不通”不能判断 Key 是否有效。5.3 常见 HTTP 错误码与对策状态码含义典型日志或现象优先处理方案400请求参数错误Invalid request、messages格式错误检查消息结构、模型名、max_tokens401认证失败Key 缺失、无效、被吊销检查环境变量、请求头、Key 是否有效403无权限组织权限不足、区域限制检查账号权限和密钥归属404资源不存在模型名不存在、端点拼写错误对照最新文档确认模型名429触发限流Rate limit exceeded、配额不足检查 RPM/TPM/余额做重试退避500服务端内部错误Internal server error等待后重试关注状态页502/503网关错误或过载Bad gateway、Service unavailable等待后重试关注服务状态这里要强调429 不等于模型不行更不等于代码写错。先看配额再看重试策略。5.4 重试与退避策略对 429 和 5xx 类错误可以使用指数退避重试。示例import time from anthropic import Anthropic client Anthropic(timeout30.0) max_attempts 5 for attempt in range(max_attempts): try: response client.messages.create( modelclaude-sonnet-4-5, max_tokens512, messages[{role: user, content: 你好}], ) print(response.content[0].text) break except Exception as exc: if attempt max_attempts - 1: raise wait 2 ** attempt # 1, 2, 4, 8 print(f第 {attempt 1} 次请求失败{wait} 秒后重试{exc}) time.sleep(wait)重试时要注意两点第一4xx 错误一般不应该重试因为重试同样参数大概率还是失败第二如果请求会创建外部资源或触发非幂等操作重试前要确认请求是否已经成功避免重复执行。6. 生产环境还需要什么日志、成本、安全与监控6.1 记录 token 用量并估算成本调试阶段可以不关心成本生产环境必须记录每次调用的 token 消耗。Anthropic 响应的usage字段类似usage.input_tokens usage.output_tokensOpenAI 响应的usage字段类似usage.prompt_tokens usage.completion_tokens示例代码统一把用量和请求信息写入结构化日志import logging logger logging.getLogger(llm_access) logger.info( llm request, extra{ model: response.model, input_tokens: response.usage.input_tokens, output_tokens: response.usage.output_tokens, latency_ms: latency_ms, request_id: request_id, }, )有了这些数据才能按天、按业务模块、按用户维度统计成本而不是月底看账单才发现某个调用占了大部分费用。6.2 监控配额、限流与延迟生产环境至少监控三类指标客户端指标每分钟请求数、每分钟 token 数、429 次数、各类错误码数量。服务端指标总耗时、首 token 延迟、P50/P95/P99、连接成功率。成本指标单日 token 消耗估算、按业务线划分的成本占比。如果没有完整的监控平台先把访问日志写好时间、用户标识、模块、模型、输入输出 token、耗时、状态码、错误信息。排查问题时日志就是第一现场。6.3 密钥、敏感数据与合规底线API Key 的治理思路可以概括为每个环境使用独立 Key例如开发、测试、生产分开。定期轮换密钥删除不再使用的旧 Key。部署服务器不要使用个人 Key使用服务账号。日志中不要记录完整请求体和响应体尤其不要记录用户敏感信息。如果日志中包含了 Key需要立即吊销并清理日志。生产环境接入外部大模型 API 前要提前确认业务数据是否可以发送给该模型厂商。涉及个人隐私、企业机密、未公开业务数据时需要走合规评审。如果数据不能出内网优先选择本地部署方案或企业内部私有化服务。6.4 上线前检查清单检查项检查点是否通过密钥管理Key 是否分离环境、未提交到仓库是/否超时配置是否设置连接超时和读取超时是/否重试策略429 和 5xx 是否有指数退避是/否日志是否记录模型名、token 用量、耗时、状态码是/否配额是否确认当前账号 RPM/TPM 和月度预算是/否数据合规是否确认业务数据可发送给外部模型是/否降级方案外部 API 故障时系统是否有兜底是/否模型版本使用的模型名是否与线上文档一致是/否成本监控是否有按模块统计 token 成本的机制是/否7. 从接入调用到工程生态LangChain、Codex 与提示词工程7.1 用 LangChain 屏蔽厂商差异LangChain 把不同模型供应商封装成统一接口便于在 Anthropic 和 OpenAI 之间切换。安装时建议按厂商拆分安装pip install langchain langchain-anthropic langchain-openai示例import os from langchain_anthropic import ChatAnthropic from langchain_openai import ChatOpenAI provider os.getenv(LLM_PROVIDER, openai).lower() if provider anthropic: llm ChatAnthropic( modelclaude-sonnet-4-5, temperature0, timeout30.0, ) else: llm ChatOpenAI( modelgpt-4.1, temperature0, timeout30.0, ) resp llm.invoke(用一句话解释 API 限流) print(resp.content)LangChain 的价值是抽象代价也是抽象。它隐藏了原生 API 的差异但当你需要排查问题时还是要回到底层理解认证头、端点、参数和错误码。7.2 Codex CLI 与 VS Code 的配置思路OpenAI Codex 是面向编程场景的命令行工具开源项目位于 GitHub仓库路径为github.com/openai/codex。它可以借助模型能力在终端里完成代码解释、生成、修改和提交类操作。典型的配置思路是在 OpenAI 控制