AI 客服成本重算器

算一下你的 AI 客服每月到底花了多少,换小模型能省多少。纯本地计算,数据不上传。

800 字大约是 500 个 token(中文约 1.6 字 / token)

同样的问题重复问,命中缓存的部分便宜 90% 以上

按现用档位的月成本
-

价格按 2026 年 10 月公开价目表(美元 / 百万 token,按 7.1 折算人民币),仅作量级参考,实际以你账单为准。
输出的成本只含 token 费用,不含服务器、人工、接入调试。

先看结论:三档模型的月成本相差 25 倍

按 2026 年 10 月公开价目表测算,每月 5 万次对话、每次约 800 字、缓存命中 60% 的情况下,token 成本分别是:小模型档约 ¥123/月,中档约 ¥1,051/月,旗舰档约 ¥3,071/月。同样的业务量,档位选错,一年差 3.5 万元;而这三档在「查知识库、复述答案」这类任务上的结果差异,通常远小于这个价差。

折算到每次对话:小模型档约 ¥0.0025,中档约 ¥0.021,旗舰档约 ¥0.061。

一、三档成本对照(5 万次/月 · 800 字/次 · 缓存 60%)

模型档位输入价($/百万 token)输出价($/百万 token)月成本每次对话典型适用
小模型档(Luna / Haiku 级)0.21.2¥123¥0.0025知识库答疑、标准问答、转人工前分流
中档(Terra / Sonnet 级)210¥1,051¥0.021多轮追问、话术生成、简单判断
旗舰档(Sol / Opus 级)530¥3,071¥0.061跨文档比对、复杂工单归因、长文档理解

二、对话量放大后的成本(同一口径,线性增长)

月对话量小模型档中档旗舰档
1 万次¥25¥210¥614
5 万次¥123¥1,051¥3,071
20 万次¥491¥4,203¥12,283

成本与对话量成正比,档位单价差不随规模摊薄,只会被放大:20 万次/月用旗舰档,一年 token 成本约 14.7 万元,换成小模型档约 5,900 元。

三、钱到底花在哪:输出 token 占 84%–87%

一次对话大约是 500 输入 token 加 250 输出 token,输出条数只有输入的一半;但三档模型的输出单价都是输入单价的 6 倍(0.2→1.2、2→10、5→30)。再叠加 60% 缓存把有效输入价压到 0.46 倍,结果就是 输出吃掉 84%–87% 的成本(实测拆分:小模型档 87%、中档 84%、旗舰档 87%)。

所以压成本的正确顺序是:先压回答长度(例如限定「三句话内、先给结论」),再考虑模型档位,最后才是输入侧的缓存优化。反过来做,投入产出比最差。

四、什么时候该换档

五、计算口径(可复算)

常见问题

小微企业每月 5 万次对话,AI 客服的 token 成本大概多少?

取决于模型档位。按每次 800 字、缓存命中 60% 测算:小模型档约 ¥123/月,中档约 ¥1,051/月,旗舰档约 ¥3,071/月,最高与最低相差 25 倍,折合每次对话 ¥0.0025 至 ¥0.061。这个数字只含 token 费用,不含服务器、人工与接入调试。

为什么说输出 token 才是成本大头?

因为输出单价是输入单价的 6 倍,而输出量只比输入少一半。以中档为例:每次输入成本约 ¥0.0028、输出约 ¥0.0178,输出占 84%。压缩成本的杠杆在「回答多长」,不在「输入怎么喂」。

从旗舰档换成小模型档,回答质量会明显下降吗?

分任务看。从知识库检索到答案后组织成句子,三档差异很小;多步推理、跨文档比对、工单归因差异明显。判据是错答代价:两档每次只差 ¥0.0585,但 5 万次/月就是 ¥2,948。先拿 100 条真实问题做对照测试,用错答率数据决定,不要按「模型越大越准」直接选。

缓存命中率从 60% 降到 0,成本会涨多少?

只涨 16%–18%:小模型档 ¥123 → ¥142,中档 ¥1,051 → ¥1,243。因为缓存只作用在输入侧,而输入只占总成本的 13%–16%,所以缓存该做,但指望它救账单不现实。

对话量涨四倍,成本怎么变?

线性上涨。5 万次到 20 万次:小模型档 ¥123 → ¥491,中档 ¥1,051 → ¥4,203,旗舰档 ¥3,071 → ¥12,283。量越大,选错档位的绝对损失越大。

这个计算器算进了什么、没算什么?

算进:输入 token(含缓存命中)、输出 token、三档模型单价、汇率折算。没算:服务器与带宽、人工运营、接入与调试、语音识别与合成、向量库检索与嵌入。做预算时应把这些单项单独列出,不要用 token 成本当总成本。