Codex

快模型更省钱还是更费额度:Terra 与 SOL 的分工用法

编辑部阅读约 4 分钟

一位开发者把编码代理的主力模型换成更快的 6.1 Terra,认为解决了 SOL 反应慢的问题;但反馈里出现两种相反结论:有人说额度消耗低,有人说半小时就耗掉五小时的量。文章拆解速度与智力之间这部分额度的成本,给出任务分流、规划与执行分离、给快模型加约束的具体做法。

一次试用引出的两种相反结论

有人把编码代理的主力模型从偏慢的 SOL 换成了 6.1 Terra,跑了一个下午,体感是顺畅、响应快,额度消耗也不高,于是认为「慢」这个老问题算是被绕过去了。

但同一件事在其他人那里得到的是相反反馈:速度快是快,智力不太够;一个 bug 来回四五轮,方向越跑越偏,最后怕把代码改坏,只好让它先把现象和输入整理成一段总结,再交给 SOL,一轮就解决了。还有人直接说额度掉得厉害,「半小时就跑完了五小时的量」。

同一次切换,一边说省,一边说费。这个矛盾本身就是答案的入口。

分歧的实质:单轮消耗不等于任务成本

大家算账的口径不一样。一方看的是单次请求、单轮对话的开销和等待时间;另一方看的是「把这件事做完」所花的累计额度与墙钟时间。

口径 快模型 强模型
单轮延迟 低 高
单轮消耗 低 高
完成同一任务所需轮次 通常更多 通常更少
累计消耗 取决于任务类型 相对可预测
主要风险 方向跑偏、反复试错 等待时间长、简单任务浪费

关键判断点是:任务需要不需要「想清楚」。 改动路径明确、定位已经清楚的小修小补,快模型优势极大;需要跨文件推理、要从现象反推根因、要在多个假设之间排除的调试型任务,快模型多出来的几轮试错,很容易把单轮省下的额度全部吃回去,还额外引入了无关改动。

快模型为什么会「越跑越偏」

  • 缺少完整假设就动手。 每轮都在猜,猜错一次,错误输出就进了上下文。
  • 上下文被自己的失败尝试污染。 后面的轮次在错误前提上继续推理,偏差会累积。
  • 没有收敛条件。 没规定能改哪些文件、改完怎么验证、几轮之内必须给结论。
  • 缺少「停下来」的机制。 代理会持续尝试,而额度是按尝试次数烧的。

可操作的方案

1. 按任务类型分流

任务类型 建议主力 说明
改文案、改配置、重命名、补类型标注 快模型 路径明确,几乎不需要推理
已知文件的局部修复 快模型 先给出定位依据再动手
报错定位、跨文件调试、性能问题 强模型 排除假设的成本高
架构调整、并发/事务/迁移脚本 强模型 出错代价远高于等待时间
写测试、补注释、生成样板 快模型 结果容易验证

2. 规划与执行分离

这是回应里最值得借用的一条经验:让擅长的模型做擅长的事。

  1. 用强模型读现象、读日志、给出根因假设和修改方案;
  2. 把结论整理成一段明确的任务描述,交给快模型批量执行;
  3. 改完立刻跑验证,失败则回到第 1 步,而不是让快模型继续猜。

交给快模型之前,先发一段约束式指令,能显著减少无效轮次:

先不要改代码。请完成三件事:
1) 复述你理解的现象、复现步骤和涉及的入口文件;
2) 列出 2-3 个最可能的假设,并说明每个假设如何验证;
3) 给出最小改动方案(具体文件与函数)。
我确认后你再动手。

3. 给快模型加「刹车」

  • 一次只改一个文件或一个函数,禁止顺手重构;
  • 连续两轮没有产生新信息,必须停下来输出已确认的事实与未确认的疑问;
  • 每轮结束附一条可复现的最小验证命令;
  • 改动超出指定范围即视为失败,回滚重来。

4. 按任务记账,而不是按请求记账

只看单轮消耗会得出错误结论。建议简单记录四项:任务类型、总轮次、实际耗时、是否一次通过。跑上一两周就能看出自己代码库里哪类任务适合快模型——这比任何评测榜单都可靠。

注意事项

  • 模型能力和额度策略会随服务端更新变化。 今天体感「智力偏低」或「额度掉得快」,下个版本可能就不同,做决策前以官方最新说明和自己的小规模试跑为准。
  • 不要用速度换高风险改动的正确性。 数据迁移、删除逻辑、权限判断、并发控制这类改动,返工成本远高于多等几分钟。
  • 把「快」用在能自动验证的地方。 有测试、有类型检查、有 lint 的任务,快模型跑错也拦得住;纯靠人眼 review 的任务,谨慎放权。
  • 长时间连续任务要留意环境稳定性。 编码代理跑起来常是几小时不断线,本地机器的休眠、网络抖动或终端断开都会中断会话,前面的上下文就白费了。如果这类长任务较多,除了本机改电源策略,也可以考虑放到一台长期在线的远程 Mac 上跑(整机在机房、按月租用、远程连接),属于可选项之一,按自己的实际频率决定是否值得。

小结

  1. 「快模型省额度」和「快模型烧额度」都可能成立,区别在于任务是否需要推理,以及有没有给代理设收敛条件。
  2. 稳妥的默认策略是规划与执行分离:强模型定方向,快模型做批量改动,验证失败就回到规划环节,而不是让快模型原地试错。
  3. 用总轮次、一次通过率和任务总耗时来衡量模型选择,别用单轮体感下结论;用自己仓库里的真实任务做小样本对比,比任何传言都靠谱。

模型选型提示词额度消耗编码代理任务分流