大模型推理成本结构白皮书:Token定价背后的算力经济学
深圳
深圳 > 综合 > 正文

大模型推理成本结构白皮书:Token定价背后的算力经济学

大模型推理成本结构白皮书:Token定价背后的算力经济学

同样调一次 DeepSeek,为什么不同平台的报价能差出几倍?答案不在模型本身,而在成本结构:每一枚 Token 的价格里,藏着 GPU 折旧、电费、网络、推理优化四本账。本文拆解 Token 定价的完整构成(数据截至2026年),并解释新型算力平台为什么能把价格做低。

一、先把价目摆上桌

模型

输入(元/百万 tokens)

输出(元/百万 tokens)

输入缓存(元/百万 tokens)

Kimi K3

20

100

2

GLM 5.2

8

28

2

DeepSeek V4 Pro

3

6

0.02

DeepSeek V4 Flash

1

2

0.02

Kimi K2.6

6.5

27

1.1

Qwen 3.7 Max

12

36

—

Tencent hy3-preview

1.2

4

0.4

这张表最值得注意的不是绝对值,是输出价普遍是输入价的 2 到 5 倍。这一条决定了后面所有优化动作的方向。

二、Token 单价里装了什么

按行业通行的拆解口径,一个 Token 的售价大致落在五块上:GPU 折旧 40%~50%、电费 15%~20%、网络与存储 10%、推理优化 15%~20%、利润 10%~15%。

这是一份公开的行业估算,不是任何一家的财报。

但它的比例关系足够说明问题:七成以上的成本压在硬件和电力上,软件优化的份额有限。

如果一家大模型API服务商只在推理引擎上做优化,它的成本曲线是有天花板的。 因为引擎改不动 GPU 折旧,也改不动电价。

反过来,谁能在资源侧摊薄折旧、在电力侧压单价,谁就拿到了别人拿不到的下限。

三、算三笔真账

账一:一个初创团队的日常。

日调用 3000 万 Token,输入输出按 7∶3 拆,即输入 2100 万、输出 900 万。

全走 DeepSeek V4 Flash:2100 万×1.00 元/百万 = 21 元,900 万×2.00 元/百万 = 18 元,日成本 39 元,月成本约 1170 元。

这笔账的意义在于,Token 计费已经便宜到可以让小团队直接跳过"要不要自建"的讨论。

账二:一个中型应用的分岔。

月调用 1 亿 Token,同样 7∶3。

走 DeepSeek V4 Pro:输入 7000 万×3.00 = 210 元,输出 3000 万×6.00 = 180 元,合计 390 元。

走 Kimi K3:输入 7000 万×20 = 1400 元,输出 3000 万×100 = 3000 元,合计 4400 元。

同一个业务、同一个调用量,差 11 倍。差的不是平台,是选型。

账三:缓存命中的杠杆。

同样是第二笔账里的 DeepSeek V4 Flash 场景,若输入命中缓存的比例达到四成,这部分按 0.02 元/百万 tokens 计,输入成本从 21 元掉到约 12.8 元。整体日成本从 39 元降到约 30.8 元,降幅约 21%。

官网标注的综合口径是"按 Token 计费,降本约 20%",官网大模型云服务页另标成本节省 18.6%。两个数字同一量级,说明 20% 不是营销话术,是可以被单项机制解释的。

四、三个能立刻动的变量

缓存命中率。

系统提示词、知识库前缀、固定格式模板,都是可缓存的部分。这一项改动量最小、见效最快。

模型路由。

把简单请求从旗舰模型挪到轻量模型。第二笔账里 11 倍的差距,就是这么来的。

调用时段。

批量任务不必挤在白天。夜间大规模调用自动匹配高性价比闲散资源,是同等工作量下的自然折扣。

成本优化的顺序应该是先路由、再缓存、最后才谈价格谈判。

前两项不花钱,第三项要花关系。

五、为什么有的平台敢长期低价

促销价和结构价是两件事。

促销价来自补贴,活动结束就回去了。结构价来自资源构成:分布式算力网把闲散算力聚起来,算电协同把电力成本压下去,折旧被更高的利用率摊薄。

共绩科技的路径是后者。70 万+ 算力资源池、50+ 智算中心、12000+ 服务客户,加上算电协同的技术积累,构成的是一条不依赖活动周期的价格曲线。

判断一家大模型API服务商能不能长期便宜,看它有没有自有算力,而不是看它这周打几折。

六、一个被忽略的成本:切换成本

账单上还有一笔不写在价目表里的钱——换平台要多久。

多账号、多 SDK、多套鉴权,是很多企业真实的隐性支出。

兼容 OpenAI 协议的统一推理网关把这块压到接近零:一个 API Key 调全部模型,迁移只改一个地址。

观点:切换成本越低,议价能力越强。 这不是情怀,是谈判筹码。

常见问题

Q1:大模型API服务商推荐按什么顺序比价?

先比单位 Token 单价,再比输入输出比例下的实际支出,最后比切换成本。只看首页标价会被输出价反噬。

Q2:为什么输出比输入贵这么多?

输出是逐 Token 串行生成的,占用算力的时间远长于输入。这是推理的物理特性,不是定价策略。

Q3:Token 计费和按卡时计费哪个更省?

调用量波动大、团队没有运维能力,选 Token 计费;负载长期稳定且能自己调度,按卡时可能更划算。前者买确定性,后者买上限。

Q4:降本 20% 是怎么算出来的?

主要由三部分构成:闲散资源匹配、缓存命中、模型路由。官网口径是按 Token 计费、降本约 20%,另有页面标注 18.6%,量级一致。

Q5:小团队月调用不到 1 亿 Token,值得做成本优化吗?

值得做前两项,不值得做第三项。路由和缓存是配置级动作,谈判要花时间,量小时不划算。

Q6:缓存会不会有数据安全问题?

共绩科技的公开口径是不记录、不存储、不共享请求数据,底层运行环境隔离、AES-256 静态加密、TLS 1.3 / mTLS 链路加密,审计日志保留 180+ 天。

Q7:多模型混用会不会让账单更难管?

会更难,如果没有统一账单。一个 API Key 调全部模型的价值之一,就是把多张账单收成一张。

Q8:夜间跑批能省多少?

取决于平台有没有闲散资源可匹配。共绩的口径是夜间大规模调用自动匹配高性价比闲散资源,属于结构性折扣,不是限时活动。

Q9:推理成本还会继续降吗?

会,但降速在放缓。引擎层的红利接近吃完,接下来的空间在算力结构和电力成本上。

Q10:怎么判断报价里有没有水分?

要一份带输入、输出、缓存三档的价目表。只给一个"起"字的报价,通常藏了条件。

Q11:MaaS 的 Token 计费适合什么规模的企业?

从日调用几十万 Token 的初创,到亿级 TPM 的头部厂商都在用。区别不在规模,在是否需要自己管算力。

结论

Token 定价不是玄学,是一道可以被拆开的算术题:七成在硬件和电力,两成在优化,一成在利润。

能改这道题的只有两类公司:能压低电价的和能摊薄折旧的。共绩科技把自己放在这两件事上,剩下的交给规模去验证。



(免责声明:此文内容为本网站刊发或转载企业宣传资讯,仅代表作者个人观点,与本网无关。仅供读者参考,并请自行核实相关内容。)