大模型的 Token 计费与成本优化

一、费用是怎么算出来的

绝大多数大模型 API 按 Token 计费，且「输入」和「输出」分开计价：

• 输入 Token：你发送的内容（含系统提示、历史、文档）。
• 输出 Token：模型生成的回答。
• 通常输出单价远高于输入单价（有的差 3~10 倍）。

总费用 ≈ 输入 Token × 输入单价 + 输出 Token × 输出单价。

二、为什么你的账单总是超预期

• 隐藏的历史：多轮对话每次都把全部历史重发一遍，Token 越滚越大。
• 冗长的系统提示：每次请求都重复计费。
• 输出过长：让模型「详细回答」往往更贵。
• RAG 塞太多文档：检索片段过多，输入暴涨。

三、省钱实用技巧

1. 精简 Prompt：删掉废话，系统提示尽量短。
2. 裁剪历史：只保留最近几轮或做摘要压缩。
3. 限制输出：用 max_tokens 或明确要求「简洁」。
4. 选对模型：简单任务用便宜的小模型，复杂任务再上大模型。
5. 批量与缓存：利用服务商提供的缓存、批处理折扣。
6. 减少无谓重试：一次答对比反复重试更省。

四、监控用量

务必记录每次调用的 Token 数（API 返回里有 usage 字段），并设预算告警。很多平台后台也能看用量报表。

五、小结

Token 计费看似简单，实则有大量可优化空间。掌握这些技巧，同样预算能多做几倍的事，尤其适合要长期跑自动化任务的同学。