VanaAPI

← 文章

同一份表格修了三次之后的模型账单

花钱这件事ZH2026-10-27

你让模型把一份杂乱的销售记录整理成表格。第一次漏了退款,第二次把日期格式改错,第三次才得到可以使用的结果。每次调用都不贵,但三次加起来,可能已经超过另一个单价更高、一次就完成任务的模型。

这就是“大模型有时反而更便宜”的具体含义:不是它每个词都更便宜,而是完成同一件事,可能需要更少的尝试。选模型时,值得比较的是拿到可用结果的总成本,而不只是价目表上的单价。

§ 先看一次任务,而不是一次请求

模型通常按 Token 收费。你可以先把 Token 理解为文本被切分后的小单位,它不等于一个汉字或一个单词。发给模型的内容属于输入,模型生成的内容属于输出,两者可能采用不同价格。

一次请求的费用,由实际计费的 Token 数量和对应单价决定。但一次任务可能包含多次请求:补充要求、指出错误、重新生成,都可能继续产生费用。如果应用再次发送历史对话,先前的材料也可能重新计入输入。

因此,单次请求很便宜,不一定意味着整个任务便宜。尤其当每次修改都要重新带上长文档时,重试的成本会逐渐累积。

§ 用一笔假设账单理解差别

假设较小模型每次尝试花费一分钱,较大模型每次花费两分五。这只是说明计算方法的假设数字,不是任何模型的实际报价。

  • 较小模型一次完成:总费用一分钱,更省。
  • 较小模型尝试三次才完成:总费用三分钱。
  • 较大模型一次完成:总费用两分五,此时反而更省。

真实情况不会每次都这么整齐。更有用的做法是记录一批相似任务的总费用,再除以其中通过检查的任务数,得到每个合格结果的平均费用。这样也能把花了钱却最终放弃的尝试算进去。

§ 哪些任务值得试一试更大的模型

当任务需要同时满足许多条件时,重试更容易发生。例如,从合同中提取字段,还要保留例外条款;修改代码,同时不能破坏已有行为;整理表格时,还要处理重复记录和缺失值。这些任务的难点通常不是多写几句话,而是避免遗漏。

你可以把 Claude Haiku 4.5 和 Claude Opus 5.5 作为候选,用自己的样本测试。不要预先认定后者一定省钱:模型更大,不代表每道题都会答得更好,也不保证输出更短。

对于格式固定、容易检查的分类或短文本改写,较小模型往往已经够用。如果它稳定地一次完成,提高模型单价可能只是增加支出。

§ 别漏掉人的检查时间

接口账单之外,还有检查和修正的时间。少付一点调用费,却多花十分钟核对数字,未必划算。不过,应当把这两项分别记录:接口费用是实际支出,人工时间是工作成本,不要混成一个看似精确的数字。

同样,更大的模型也需要检查。涉及金额、权限或重要决定时,不能因为换了模型就取消验证。

§ 用同一批小任务做比较

先选十到二十个有代表性的任务,写清楚什么叫“完成”,再让候选模型处理相同材料。记录费用、重试次数、等待时间和检查结果。提示词与输出要求尽量保持一致,避免把提示词改进误当成模型优势。

在 Vana API,可以通过同一个兼容 OpenAI 的入口切换候选模型,减少更换接入方式的工作。它也支持 Anthropic Messages 和 Gemini 原生协议,按实际 Token 用量计费,没有月费,适合先做小规模比较。你可以创建一个账户,用一批真实但不含敏感信息的任务开始记录。

最后留下的规则可以很简单:容易验证的日常任务先用较小模型;复杂、反复返工的任务再测试较大模型。真正需要优化的,不是每一次调用有多便宜,而是每一份可用结果花了多少。