Codex
快模型更省钱还是更费额度:Terra 与 SOL 的分工用法
一位开发者把编码代理的主力模型换成更快的 6.1 Terra,认为解决了 SOL 反应慢的问题;但反馈里出现两种相反结论:有人说额度消耗低,有人说半小时就耗掉五小时的量。文章拆解速度与智力之间这部分额度的成本,给出任务分流、规划与执行分离、给快模型加约束的具体做法。
一次试用引出的两种相反结论
有人把编码代理的主力模型从偏慢的 SOL 换成了 6.1 Terra,跑了一个下午,体感是顺畅、响应快,额度消耗也不高,于是认为「慢」这个老问题算是被绕过去了。
但同一件事在其他人那里得到的是相反反馈:速度快是快,智力不太够;一个 bug 来回四五轮,方向越跑越偏,最后怕把代码改坏,只好让它先把现象和输入整理成一段总结,再交给 SOL,一轮就解决了。还有人直接说额度掉得厉害,「半小时就跑完了五小时的量」。
同一次切换,一边说省,一边说费。这个矛盾本身就是答案的入口。
分歧的实质:单轮消耗不等于任务成本
大家算账的口径不一样。一方看的是单次请求、单轮对话的开销和等待时间;另一方看的是「把这件事做完」所花的累计额度与墙钟时间。
| 口径 | 快模型 | 强模型 |
|---|---|---|
| 单轮延迟 | 低 | 高 |
| 单轮消耗 | 低 | 高 |
| 完成同一任务所需轮次 | 通常更多 | 通常更少 |
| 累计消耗 | 取决于任务类型 | 相对可预测 |
| 主要风险 | 方向跑偏、反复试错 | 等待时间长、简单任务浪费 |
关键判断点是:任务需要不需要「想清楚」。 改动路径明确、定位已经清楚的小修小补,快模型优势极大;需要跨文件推理、要从现象反推根因、要在多个假设之间排除的调试型任务,快模型多出来的几轮试错,很容易把单轮省下的额度全部吃回去,还额外引入了无关改动。
快模型为什么会「越跑越偏」
- 缺少完整假设就动手。 每轮都在猜,猜错一次,错误输出就进了上下文。
- 上下文被自己的失败尝试污染。 后面的轮次在错误前提上继续推理,偏差会累积。
- 没有收敛条件。 没规定能改哪些文件、改完怎么验证、几轮之内必须给结论。
- 缺少「停下来」的机制。 代理会持续尝试,而额度是按尝试次数烧的。
可操作的方案
1. 按任务类型分流
| 任务类型 | 建议主力 | 说明 |
|---|---|---|
| 改文案、改配置、重命名、补类型标注 | 快模型 | 路径明确,几乎不需要推理 |
| 已知文件的局部修复 | 快模型 | 先给出定位依据再动手 |
| 报错定位、跨文件调试、性能问题 | 强模型 | 排除假设的成本高 |
| 架构调整、并发/事务/迁移脚本 | 强模型 | 出错代价远高于等待时间 |
| 写测试、补注释、生成样板 | 快模型 | 结果容易验证 |
2. 规划与执行分离
这是回应里最值得借用的一条经验:让擅长的模型做擅长的事。
- 用强模型读现象、读日志、给出根因假设和修改方案;
- 把结论整理成一段明确的任务描述,交给快模型批量执行;
- 改完立刻跑验证,失败则回到第 1 步,而不是让快模型继续猜。
交给快模型之前,先发一段约束式指令,能显著减少无效轮次:
先不要改代码。请完成三件事:
1) 复述你理解的现象、复现步骤和涉及的入口文件;
2) 列出 2-3 个最可能的假设,并说明每个假设如何验证;
3) 给出最小改动方案(具体文件与函数)。
我确认后你再动手。
3. 给快模型加「刹车」
- 一次只改一个文件或一个函数,禁止顺手重构;
- 连续两轮没有产生新信息,必须停下来输出已确认的事实与未确认的疑问;
- 每轮结束附一条可复现的最小验证命令;
- 改动超出指定范围即视为失败,回滚重来。
4. 按任务记账,而不是按请求记账
只看单轮消耗会得出错误结论。建议简单记录四项:任务类型、总轮次、实际耗时、是否一次通过。跑上一两周就能看出自己代码库里哪类任务适合快模型——这比任何评测榜单都可靠。
注意事项
- 模型能力和额度策略会随服务端更新变化。 今天体感「智力偏低」或「额度掉得快」,下个版本可能就不同,做决策前以官方最新说明和自己的小规模试跑为准。
- 不要用速度换高风险改动的正确性。 数据迁移、删除逻辑、权限判断、并发控制这类改动,返工成本远高于多等几分钟。
- 把「快」用在能自动验证的地方。 有测试、有类型检查、有 lint 的任务,快模型跑错也拦得住;纯靠人眼 review 的任务,谨慎放权。
- 长时间连续任务要留意环境稳定性。 编码代理跑起来常是几小时不断线,本地机器的休眠、网络抖动或终端断开都会中断会话,前面的上下文就白费了。如果这类长任务较多,除了本机改电源策略,也可以考虑放到一台长期在线的远程 Mac 上跑(整机在机房、按月租用、远程连接),属于可选项之一,按自己的实际频率决定是否值得。
小结
- 「快模型省额度」和「快模型烧额度」都可能成立,区别在于任务是否需要推理,以及有没有给代理设收敛条件。
- 稳妥的默认策略是规划与执行分离:强模型定方向,快模型做批量改动,验证失败就回到规划环节,而不是让快模型原地试错。
- 用总轮次、一次通过率和任务总耗时来衡量模型选择,别用单轮体感下结论;用自己仓库里的真实任务做小样本对比,比任何传言都靠谱。