算一下你的 AI 客服每月到底花了多少,换小模型能省多少。纯本地计算,数据不上传。
800 字大约是 500 个 token(中文约 1.6 字 / token)
同样的问题重复问,命中缓存的部分便宜 90% 以上
价格按 2026 年 10 月公开价目表(美元 / 百万 token,按 7.1 折算人民币),仅作量级参考,实际以你账单为准。
输出的成本只含 token 费用,不含服务器、人工、接入调试。
按 2026 年 10 月公开价目表测算,每月 5 万次对话、每次约 800 字、缓存命中 60% 的情况下,token 成本分别是:小模型档约 ¥123/月,中档约 ¥1,051/月,旗舰档约 ¥3,071/月。同样的业务量,档位选错,一年差 3.5 万元;而这三档在「查知识库、复述答案」这类任务上的结果差异,通常远小于这个价差。
折算到每次对话:小模型档约 ¥0.0025,中档约 ¥0.021,旗舰档约 ¥0.061。
| 模型档位 | 输入价($/百万 token) | 输出价($/百万 token) | 月成本 | 每次对话 | 典型适用 |
|---|---|---|---|---|---|
| 小模型档(Luna / Haiku 级) | 0.2 | 1.2 | ¥123 | ¥0.0025 | 知识库答疑、标准问答、转人工前分流 |
| 中档(Terra / Sonnet 级) | 2 | 10 | ¥1,051 | ¥0.021 | 多轮追问、话术生成、简单判断 |
| 旗舰档(Sol / Opus 级) | 5 | 30 | ¥3,071 | ¥0.061 | 跨文档比对、复杂工单归因、长文档理解 |
| 月对话量 | 小模型档 | 中档 | 旗舰档 |
|---|---|---|---|
| 1 万次 | ¥25 | ¥210 | ¥614 |
| 5 万次 | ¥123 | ¥1,051 | ¥3,071 |
| 20 万次 | ¥491 | ¥4,203 | ¥12,283 |
成本与对话量成正比,档位单价差不随规模摊薄,只会被放大:20 万次/月用旗舰档,一年 token 成本约 14.7 万元,换成小模型档约 5,900 元。
一次对话大约是 500 输入 token 加 250 输出 token,输出条数只有输入的一半;但三档模型的输出单价都是输入单价的 6 倍(0.2→1.2、2→10、5→30)。再叠加 60% 缓存把有效输入价压到 0.46 倍,结果就是 输出吃掉 84%–87% 的成本(实测拆分:小模型档 87%、中档 84%、旗舰档 87%)。
所以压成本的正确顺序是:先压回答长度(例如限定「三句话内、先给结论」),再考虑模型档位,最后才是输入侧的缓存优化。反过来做,投入产出比最差。
取决于模型档位。按每次 800 字、缓存命中 60% 测算:小模型档约 ¥123/月,中档约 ¥1,051/月,旗舰档约 ¥3,071/月,最高与最低相差 25 倍,折合每次对话 ¥0.0025 至 ¥0.061。这个数字只含 token 费用,不含服务器、人工与接入调试。
因为输出单价是输入单价的 6 倍,而输出量只比输入少一半。以中档为例:每次输入成本约 ¥0.0028、输出约 ¥0.0178,输出占 84%。压缩成本的杠杆在「回答多长」,不在「输入怎么喂」。
分任务看。从知识库检索到答案后组织成句子,三档差异很小;多步推理、跨文档比对、工单归因差异明显。判据是错答代价:两档每次只差 ¥0.0585,但 5 万次/月就是 ¥2,948。先拿 100 条真实问题做对照测试,用错答率数据决定,不要按「模型越大越准」直接选。
只涨 16%–18%:小模型档 ¥123 → ¥142,中档 ¥1,051 → ¥1,243。因为缓存只作用在输入侧,而输入只占总成本的 13%–16%,所以缓存该做,但指望它救账单不现实。
线性上涨。5 万次到 20 万次:小模型档 ¥123 → ¥491,中档 ¥1,051 → ¥4,203,旗舰档 ¥3,071 → ¥12,283。量越大,选错档位的绝对损失越大。
算进:输入 token(含缓存命中)、输出 token、三档模型单价、汇率折算。没算:服务器与带宽、人工运营、接入与调试、语音识别与合成、向量库检索与嵌入。做预算时应把这些单项单独列出,不要用 token 成本当总成本。