一个复杂问题跑几十分钟?瓶颈几乎总在模型生成时间 × Agent 回合数,不在中转层。
时间花在哪
Claude Code / Codex CLI 处理一个任务 = 几十到上百次 API 回合。生产 24 小时全量请求实测:
- 模型生成占总耗时 93%
- 中转转发开销 <1 秒/请求(7%)
30 分钟的任务 ≈ 100+ 回合 × 单回合 10 秒上下。想快,要么减少回合,要么换快模型。
模型速度参考
单请求 p50 实测:
| 模型 | p50 | 适合 |
|---|---|---|
gpt-5.4-mini | ~4s | 轻任务、小改动、批量处理 |
gpt-5.4 | ~9s | 日常开发 |
gpt-5.5 | ~11s | 复杂推理、大重构 |
最快和最慢差近 3 倍。Claude 侧同理:claude-haiku-* 快于 sonnet / opus。
提速建议
按任务选模型
简单任务别用最重的模型。摘要、翻译、小修小补先试 gpt-5.4-mini / claude-haiku-*。
降 reasoning effort
推理档位越高、模型思考越久,xhigh 单回合可比 medium 慢数倍。日常开发 medium 足够,攻坚再开 xhigh。
Codex CLI(~/.codex/config.toml):
model_reasoning_effort = "medium"
Claude Code 走 ChatGPT 模型时:
export CLAUDE_CODE_EFFORT_LEVEL=medium
控制上下文长度
上下文越长首字节越慢。开新任务前 /clear,长会话及时 /compact。
FAQ
Q:是不是中转站慢? A:实测中转开销 <1 秒/请求、占比 7%,同模型直连官方不会明显更快。
Q:同一个问题为什么有时快有时慢? A:回合数不同 + 官方负载波动,生成时间本身有长尾(p99 可达 p50 的 5 倍以上)。
Q:流式会更快吗? A:总时长一样,但首字先出、体感更好。CLI 工具默认流式。
Q:换网络 / 换地区能提速吗? A:基本不能。网络往返只占总耗时的零头,大头是模型在官方机房里生成的时间。