在写任何产品代码之前,你就能把 LLM API 的账单估到误差在一个小倍数之内,而要判断一个想法行不行,这个精度就够了。所有模型的方法都一样:数出每次请求的 token,按类型定价,再乘以请求量。本页先讲方法,再套用到三种负载上。想让工具替你算,就用费用计算器。
第 1 步:数出每次请求的 token
token 是词的一小块。英文里一个 token 约四个字符,或四分之三个单词,所以 1,000 词的文档大约是 1,300 个 token。其他语言和代码每个词用的 token 更多。每个模型家族有自己的分词器,所以 Claude、GPT 和 Gemini 的精确计数各不相同。
把请求的各部分分开数,因为它们是分开计费的:
系统提示词、工具定义、指令。每次调用都一样。
用户消息、检索到的文本、已有的对话。
回答,加上模型先做的推理。
要得到真实提示词的精确数字,就问 API:Anthropic 和 Gemini 都提供 token 计数接口,而且每个响应都会报告用量。
第 3 步:乘以请求量
月成本等于单次请求成本乘以每月请求数。典型请求和较重的请求各算一次,两个数都留着:前者是你的预算,后者是最坏情况。
三种负载,逐个算
客服聊天机器人。 每条回复发送约 1,500 个输入 token(指令、检索片段、问题),输出 400 个。指令每次都一样,所以这些输入大部分可以走缓存。每月一万条回复,就是 1,500 万输入 token 和 400 万输出 token,输出通常占账单的大头。Haiku 级和 Flash 级的模型是第一个要测的。
文档流水线。 每份文档 20,000 个 token,摘要 500 个。一万份文档就是 2 亿输入 token:输入占主导,所以模型的输入价,以及文档能否在多个问题之间复用缓存,决定了账单。用摘要效果可接受的最便宜的模型来跑。
编程智能体。 一个任务是几十次请求,每次都重发不断变长的历史。历史大部分走缓存,所以缓存读取价和命中率比表面的输入价更重要。实测一个真实任务再乘:Claude Code 要花多少钱逐行算了一个步骤的账。
给未知因素留余量
会增加几个百分点;从第一天就开始统计。
在难题上可能让输出翻倍;看 usage 字段,并有意识地设置强度。
取第 90 百分位,而不是平均值。
从目录(GET https://halfoff.dev/v1/models)读取,不要写死。
常见问题
怎样计算一次 LLM API 调用的费用?+
输入 token 乘以输入价,加上输出 token 乘以输出价,都按每百万 token 计,缓存输入用缓存读取价。公式在模型与价格里写得很清楚。
1,000 个词是多少 token?+
英文大约 1,300 个 token,上下浮动。代码、数字和非英文文本用得更多。请数真实样本,别只靠经验值。
输出 token 比输入 token 更贵吗?+
是的,所有主流模型都如此:输出的单价通常是输入的数倍,所以一个长回答比一个长问题更贵。
怎样把估算值降下来?+
用更小的模型,缓存重复的上下文,限制输出。最省钱的 Claude API 用法按影响大小列出了这些改动。