意在向外界说明，它的自研推理框架是如何以合理的成本服务大规模用户的

文｜《财经》主笔 吴俊宇

编辑｜谢丽容

10月20日，DeepSeek宣布开源推理框架DeepInfer，该推理框架兼容英伟达与华为昇腾芯片。该公司随后在知乎发布了技术报告《DeepSeek-V4.1-Flash 大规模推理部署实践》，并在全球最大开源社区GitHub发布了源代码。

该技术报告披露了一组罕见的经营数据：目前DeepSeek单一集群的服务吞吐是155万亿 Tokens（词元）/天，整体收入是每卡每小时38美元（约合258.4元，按波谷定价）。

DeepSeek也是国内第一家披露单卡收入和Token吞吐规模的模型公司。不过，该报告没有披露该集群的芯片型号与数量，没有给出单卡收入的完整计算口径，也没有给到单一集群155亿Token吞吐的计算过程。只说明实际部署中预填充与解码卡数比例接近1:1。

推理框架是连接模型与芯片的中间层软件。用户每发出一次请求，都由推理框架分配到具体芯片上完成计算。

因此，即便模型与芯片相同，在推理框架不同的情况下，Token吞吐量与最终的推理成本也可能相去甚远。这会导致云计算厂商、模型厂商的利润率出现显著差距。

DeepSeek公开Token吞吐量与单卡每小时收入，意在向外界说明：它的自研推理框架是如何以合理的成本服务大规模用户的。

单卡每小时收入38美元，是什么水平？

DeepSeek单卡每小时收入38元是什么水平？这可以和算力服务商的H200/B300等单卡租赁价格先做对照。

《财经》查阅亚马逊AWS、微软Azure、谷歌云等云厂商官网列表价发现，英伟达H200单卡每小时租赁价格为6美元-8美元，B300为15美元-20美元。不过，列表价多面向按需使用的中小客户，与市场实际成交价存在差距。

一位从事算力租赁业务的人士对《财经》表示，B300单卡的市场租赁价格通常为每小时8美元-10美元。若长期租用，可低至每小时5美元-6美元。

以此对照，DeepSeek单卡每小时38美元的收入，约为H200租赁列表价的5倍-6倍、B300租赁列表价的2倍-2.5倍。这说明，在DeepSeek技术框架里，同一张卡，用来销售Token的收入能力会远高于直接出租。

一位资深算法工程师对《财经》表示，若以H200每小时6美元-8美元的租赁价格作为成本，对照DeepSeek按波谷计算的每卡每小时38美元收入，DeepSeek的毛利率超过80%。考虑到高峰时段Token定价更高，实际毛利率或许还会更高。他评价称：“这是顶级的AI Infra（基础设施）能力。”

多位来自云厂商与模型厂商的推理技术人士曾对《财经》表达过相同的观点——DeepSeek的推理效率高于市面上大部分厂商，能够充分榨取单枚芯片的Token吞吐能力，因此单卡的毛利也更高。

一个侧面例证是，一些云厂商不愿在自家平台上部署开源的DeepSeek模型，而是将用户的API（应用接口）请求直接转发至DeepSeek官网接口。原因在于，自行部署的成本高于DeepSeek的API售价。即便按原价转售、不赚差价，也比自部署更划算。比如，腾讯旗下的智能体WorkBuddy内置的DeepSeek，API请求就是直接转发到DeepSeek官网。

同样是通过API卖Token，DeepSeek的推理效率仍然比市面上大部分厂商要高。

国际半导体研究机构SemiAnalysis长期追踪主流模型在主流芯片上的推理吞吐。它的测试数据有广泛代表性。SemiAnalysis截至2026年10月20日数据显示，采用vLLM推理框架、要求每用户输出速度达到100 Tokens/秒时，DeepSeek V4.1 Flash在H200上的单卡总吞吐为1.66万Tokens/秒，在B300上为31.74万Tokens/秒。

根据SemiAnalysis的Token吞吐数据，按DeepSeek官网API美元列表价计算，在输入缓存命中率96%的情况下，H200在空闲时段约为0.79美元/时/卡，高峰时段约为1.58美元/时/卡；B300空闲时段约为14.88元/时/卡，高峰时间约为29.77美元/时/卡。

也就是说，采用通用框架部署DeepSeek-V4.1-Flash的厂商，即便使用B300，空闲时段每卡每小时Token收入仅为14.88美元，仅为DeepSeek波谷定价的四成左右。若用H200销售Token，收入甚至覆盖不了卡租。这也可以从侧面解释，为何部分云厂商宁愿把请求转发给DeepSeek，也不愿自行部署。

自行部署的成本压力，海外开发者同样难以克服。开源智能体平台OpenCode在今年8月之前长期把API请求直接转发到DeepSeek官网。在DeepSeek实行峰谷价机制后，OpenCode尝试自部署DeepSeek-V4.1-Flash。

OpenCode曾尝试通过不同部署方案，但发现难以复现DeepSeek的低成本推理。8月17日，OpenCode联合创始人达克斯·拉德（Dax Raad）认为，DeepSeek擅长推理优化，实现类似推理成本需要特定的部署方式。

155万亿 Tokens/天，是什么概念？

DeepSeek还披露了另一个数据——单一集群的服务吞吐是155万亿 Tokens/天。

这是什么概念？今年6月，字节跳动旗下的火山引擎披露豆包大模型日均Token调用量为180万亿。也就是说，DeepSeek的单集群Token吞吐规模已经接近豆包。

《财经》了解到，截至今年8月，中国头部科技公司单家每月的Token消耗量普遍超过十万亿，部分已达数十万亿，相关费用高达数亿元，且仍在逐月快速攀升。在这些公司，一名研发工程师每月消耗的Token价值普遍超过2万元。

相比之下，DeepSeek单一集群一天的吞吐量，已超过一家头部科技公司一个月的内部消耗。若以一名工程师每天消耗2亿Tokens计，155万亿Tokens足以支撑超过70万名工程师一天的工作。

那么，155万亿Tokens/天的单一集群到底能给DeepSeek带来多少收入？

模型公司的推理收入，取决于三类Token的占比情况：命中缓存输入Token，未命中缓存输入Token，以及输出Token。DeepSeek在技术报告中披露，DeepSeek-V4.1-Flash的推理过程中，平均输入缓存命中率为96%。

这可以计算单集群的Token收入情况。

DeepSeek的API实行高峰、空间分时定价。高峰时段为北京时间工作日9:00-12:00、14:00-18:00。其余时间，包括周末及法定节假日全天，均按空闲时段计价。

DeepSeek官网数据显示，DeepSeek-V4.1-Flash每百万Tokens价格为：输入（缓存命中）空闲时段0.02元、高峰时段0.04元；输入（缓存未命中）空闲时段1元、高峰时段2元；输出空闲时段4元、高峰时段8元。空闲时段价格为高峰时段的一半。

按照上述定价方式，当全部按空闲时段价格计费，DeepSeek单一集群日收入约1535万元，月均约4.67亿元，年化约56亿元。当全部按高峰时段价格计费，则分别约为3069万元、9.34亿元和112亿元。

不过，这一计算未考虑DeepSeek的整体集群规模。也未考虑算力、电力等成本，也不代表DeepSeek实际实现的营收。

一位算力基础设施人士对《财经》表示，在高毛利率的支撑下，制约DeepSeek收入增长的只剩下算力规模。“这也就不难理解，DeepSeek为何要扩建算力集群。”

一位频繁往返北京与乌兰察布的大型互联网公司数据中心人士对《财经》表示，DeepSeek正在乌兰察布规划建设吉瓦（GW）级算力集群。目前，DeepSeek仍租用国内两家大型IDC（互联网数据中心）服务商的算力集群。他透露，DeepSeek已从多家互联网公司和IDC服务商招揽了一批高级别人才。

扩建算力离不开资金。今年10月《财经》曾报道，DeepSeek将在近期完成最新一轮融资，融资金额从此前计划的500亿元增至约1000亿元。目前DeepSeek投前估值仍为约5000亿元（报道详见）。

责编 | 张生婷

题图来源｜AI生成