DeepSeek们的成本，是怎么计算的？

大模型混战，一边卷能力，一边卷"成本"。

---

定焦One（dingjiaoone）原创

作者 | 王璐

编辑 | 魏佳

DeepSeek彻底让全球都坐不住了。

昨天，马斯克携"地球上最聪明的AI"——Gork 3在直播中亮相，自称其"推理能力超越目前所有已知模型"，在推理-测试时间得分上，也好于DeepSeek R1、OpenAI o1。不久前，国民级应用微信宣布接入DeepSeek R1，正在灰度测试中，这一王炸组合被外界认为AI搜索领域要变天。

如今，微软、英伟达、华为云、腾讯云等全球多家科技大厂都已接入DeepSeek。网友也开发出了算命、预测彩票等新奇玩法，其热度直接转化成了真金白银，助推DeepSeek估值一路上涨，最高已经达到了千亿美金。

DeepSeek能出圈，除了免费和好用之外，还因为其仅以557.6万美元的GPU成本，就训练出了与OpenAI o1能力不相上下的DeepSeek R1模型。毕竟，在过去几年的"百模大战"中，国内外AI大模型公司都砸了几十亿甚至上百亿美元。Gork 3成为"全球最聪明AI"的代价也是高昂的，马斯克称Gork 3训练累计消耗20万块英伟达GPU（单块成本大约在3万美元），而业内人士估计DeepSeek仅在1万多张。

但也有人在成本上卷DeepSeek。近日李飞飞团队称，仅花费不到50美元的云计算费用，就训练出了一款推理模型S1，其在数学和编码能力测试中的表现媲美OpenAI的o1和DeepSeek的R1。但需要注意的是，S1是中型模型，与DeepSeek R1的上千亿参数级别存在差距。

即便如此，从50美元到上百亿美元的巨大训练成本差异，还是让大家好奇，一方面想知道DeepSeek的能力有多强，为什么各家都在试图赶上甚至超过它，另一方面，训练一个大模型究竟需要多少钱？它涉及哪些环节？未来，是否还有可能进一步降低训练成本？

被"以偏概全"的DeepSeek

在从业者看来，在解答这些问题前，得先捋清几个概念。

首先是对DeepSeek的理解"以偏概全"。大家惊叹的是它众多大模型之中的一个——推理大模型DeepSeek-R1，但它还有其他的大模型，不同大模型产品之间的功能不一样。而557.6万美元，是其通用大模型DeepSeek-V3训练过程中的GPU花费，可以理解为净算力成本。

简单对比下：

• 通用大模型：

接收明确指令，拆解步骤，用户要把任务描述清楚，包括回答顺序，比如用户需要提示是先做总结再给出标题，还是相反。

回复速度较快，基于概率预测（快速反应），通过大量数据预测答案。

• 推理大模型：
  

接收简单明了、聚焦目标的任务，用户要什么直接说，它可以自己做规划。

回复速度较慢，基于链式思维（慢速思考），推理问题步骤得到答案。

两者主要的技术差别在于训练数据，通用大模型是问题+答案，推理大模型是问题+思考过程+答案。

第二，由于Deepseek的推理大模型DeepSeek-R1关注度更高，很多人错误地认为推理大模型一定比通用大模型高级。

需要肯定的是，推理大模型属于前沿模型类型，是大模型预训练范式撞墙后，OpenAI推出的在推理阶段增加算力的新范式。相比通用大模型，推理大模型更烧钱，训练时间也更长。

但并不意味着，推理大模型一定比通用大模型好用，甚至对于某类问题，推理大模型反而显得鸡肋。

大模型领域知名专家刘聪对「定焦One」解释，比如问某个国家的首都/某个地方的省会城市，推理大模型就不如通用大模型好用。

DeepSeek-R1面对简单问题时的过度思考

他表示，面对这类比较简单的问题，推理大模型不仅回答效率低于通用大模型，消耗的算力成本也比较昂贵，甚至会出现过度思考等情况，最后可能给出错误答案。

他建议，完成数学难题、挑战性编码等复杂任务时使用推理模型，总结、翻译、基础问答等简单任务，通用模型使用效果更佳。

第三是DeepSeek的真正实力到底如何。

综合权威榜单和从业者的说法，「定焦One」分别在推理大模型和通用大模型领域，给DeepSeek排了个位。

推理大模型第一梯队主要有四家：国外OpenAI的o系列模型(如o3-mini)、Google的Gemini 2.0；国内的DeepSeek-R1、阿里的QwQ。

不止一位从业者认为，虽然外界都在讨论DeepSeek-R1作为国内顶尖的模型，能力赶超OpenAI，但从技术角度看，相比OpenAI最新的o3，还有一定的差距。

它更重要的意义是，大大缩小了国内外顶尖水平之间的差距。"如果说之前的差距是2-3代，DeepSeek-R1出现后已经缩小到了0.5代。"AI行业资深从业者江树表示。

他结合自身使用经验，介绍了四家的优缺点：

在通用大模型领域，根据LM Arena（用于评估和比较大型语言模型（LLM）性能的开源平台）榜单，排在第一梯队的有五家：国外Google的Gemini（闭源）、OpenAI的ChatGPT、Anthropic的Claude；国内的DeepSeek、阿里的Qwen。

江树也列举出了使用它们的体验。

不难发现，尽管DeepSeek-R1震惊了全球科技圈，其价值毋庸置疑，但每家大模型产品都有自身的优劣势，DeepSeek也不是所有大模型都完美无缺。比如刘聪就发现，DeepSeek最新发布的专注于图像理解和生成任务的多模态大模型Janus-Pro，使用效果一般。

训练大模型，要花多少钱？

回到训练大模型的成本问题，一个大模型究竟是如何诞生的？

刘聪表示，大模型诞生主要分为预训练-后训练两个阶段，如果把大模型比作小孩，预训练和后训练要做的是，让小孩从出生时的只会哭，到懂得大人讲的内容，再到主动和大人讲话。

预训练主要指训练语料。比如将大量的文本语料投给模型，让小孩完成知识摄取，但此刻他只是学了知识还不会用。

后训练则要告诉小孩，如何去用学了的知识，包含两种方法，模型微调（SFT）和强化学习（RLHF）。

刘聪表示，无论是通用大模型还是推理大模型、国内还是国外，大家遵循的都是这一流程。江树也告诉「定焦One」，各家都用的是Transformer模型，因此在最底层的模型构成和训练步骤上，无本质区别。

多位从业者表示，各家大模型的训练成本差别很大，主要集中在硬件、数据、人工三大部分，每一部分也可能采取不同的方式，对应的成本也不同。

刘聪分别举例，比如硬件是买是租，两者间的价格相差很大，如果是买，前期的一次性投入很大，但后期会大幅降低，基本只用交电费，如果是租，可能前期投入不大，但这部分成本始终无法省去。所使用的训练数据上，是直接购买现成数据，还是自己人工爬，也差别很大。每次的训练成本也不太一样，像第一次要写爬虫、做数据筛选，但下一个版本由于可使用上个版本的重复操作，成本会有所降低。以及在最终展现模型前，中间迭代了多少版本，也决定着成本高低，但大模型公司对此讳莫如深。

总之，每个环节都涉及很多高额的隐形成本。

外界曾按照GPU估算，在顶尖模型中，GPT-4的训练成本大约为7800万美元，Llama3.1超6000万美元，Claude3.5约为1亿美元。但由于这些顶尖大模型都是闭源，以及各家是否存在算力浪费现象，外界很难知晓。直到同梯队的DeepSeek以557.6万美元出现。

图源 / Unsplash

需要注意的是，557.6万美元是DeepSeek技术报告中提到的基座模型DeepSeek-V3的训练成本。"关于V3版本的训练成本只能代表最后一次成功训练的成本，前期的研究、架构及算法的试错等成本都没有包含在内；而R1的具体训练成本，论文中没有提到。"刘聪表示。也就是说，557.6万美元仅为模型总成本的一小部分。

半导体市场分析和预测公司SemiAnalysis指出，考虑到服务器资本支出、运营成本等因素，DeepSeek的总成本在4年内可能达到25.73亿美元。

从业者认为，相较其他大模型公司百亿美元的投入，即便按25.73亿美元计算，DeepSeek的成本也是低的。

而且，DeepSeek-V3的训练过程仅需2048张英伟达GPU、所用GPU小时仅为278.8万，相比之下，OpenAI耗费了上万张GPU，Meta训练模型Llama-3.1-405B所用的GPU小时为3084万。

DeepSeek不仅在模型训练阶段效率更高，在调用推理阶段也更高效、成本更低。

从DeepSeek给出的各大模型API定价（开发者可以通过API调用大模型，实现文本生成、对话交互、代码生成等功能），能看出成本其低于"OpenAI们"。通常认为，高开发成本的API通常需要通过较高的定价来回收成本。

DeepSeek-R1的API定价为：每百万输入tokens1元（缓存命中），每百万输出tokens16元，反观OpenAI的o3-mini，输入（缓存命中）、输出每百万tokens的定价，分别为0.55美元（4元人民币）、4.4美元（31元人民币）。

缓存命中，即从缓存中读取数据而非重新计算或调用模型生成结果，可以减少数据处理的时间、降低成本。行业通过区分缓存命中和缓存未命中，从而提高API定价的竞争力，低价也让中小企业也更容易接入。

近期结束了优惠期的DeepSeek-V3，虽然从原来的每百万输入tokens0.1元（缓存命中）、每百万输出tokens2元，分别上调到了0.5元、8元，价格仍然低于其他主流模型。

虽然大模型总训练成本很难预估，但从业者一致认为，DeepSeek可能代表的是目前一流大模型的最低成本，未来各家应该会参照DeepSeek往下降。

DeepSeek的降本启示

DeepSeek的钱省在哪了？综合从业者的说法，从模型结构-预训练-后训练，每个方面都做了优化。

比如为了保证回答的专业性，很多大模型公司采用的是MoE模型（混合专家模型），即面对一个复杂难题，大模型会将其拆解为多个子任务，然后将不同子任务交给不同专家解答。虽然很多家大模型公司都曾提到过这一模型，但DeepSeek达到了终极专家专业化水平。

秘诀是采用了细粒度专家分割（对专家在同一类别中再进行子任务细分）和共享专家隔离（隔离部分专家减轻知识冗余），这样做的好处是，能大幅提高MoE参数效率和性能，做到更快更准确给予答案。

有从业者估算，DeepSeekMoE相当于仅用大约40%的计算量，便达到了与LLaMA2-7B差不多的效果。

数据处理也是大模型训练的一道坎，各家都琢磨着如何提高计算效率，同时还能降低内存和带宽等硬件需求。DeepSeek找到的方法是，在处理数据时用FP8低精度训练（用于加速深度学习训练），"此举在已知开源模型中比较领先，毕竟大多数大模型使用的是FP16或BF16混合精度训练，FP8的训练速度比它们快很多。"刘聪表示。

后训练中的强化学习上，策略优化是一大难点，可以理解为让大模型更好地进行过决策，比如AlphaGo通过策略优化学会了如何在围棋中选择最优的落子策略。

DeepSeek选择GRPO（分组相对策略优化）而非PPO（近端策略优化）算法，两者的主要区别在于在进行算法优化时，是否借助价值模型，前者通过组内相对奖励来估计优势函数，后者用的是单独的价值模型。少一个模型，算力要求自然更小，也会节省成本。

以及推理层面上，用多头潜在注意力机制（MLA）而非传统的多头注意力（MHA），显著降低了显存占用和计算复杂度，最直接的好处是，API接口费用下降。

不过，这次DeepSeek给刘聪的最大启发是，可以从不同角度提升大模型推理能力，纯模型微调（SFT）和纯强化学习（RLHF）都可以做出不错的推理大模型。

图源 / Pexels

也就是说，目前做推理模型，可以有四种方式：

第一种：纯强化学习（DeepSeek-R1-zero）

第二种：SFT+强化学习（DeepSeek-R1）

第三种：纯SFT（DeepSeek蒸馏模型）

第四种：纯提示词（低成本小模型）

"之前圈内都是标注SFT+强化学习，大家都没有想到，原来做纯SFT和纯做强化学习，也能得到很好的效果。"刘聪表示。

DeepSeek的降本不仅给从业者带来了技术上的启发，也影响着AI公司的发展路径。

英诺天使基金合伙人王晟介绍，AI产业在跑通AGI方向上往往有两种不同的路径选择：一个是"算力军备"范式，堆技术堆钱堆算力，先把大模型性能拉至一个高点，再考虑产业落地；另外一个是"算法效率"范式，一开始就以产业落地为目标，通过架构创新和工程化能力，推出低成本高性能模型。

"DeepSeek的一系列模型证明了，在天花板涨不动的情况下，把重点放在优化效率而非能力增长上的范式具有可行性。"王晟称。

从业者们相信，未来随着算法的进化，大模型的训练成本还会进一步降低。

方舟投资管理公司的创始人兼CEO"木头姐"曾指出，在DeepSeek之前，人工智能训练成本每年下降75%，推理成本甚至下降85%到90%。王晟也曾表示，年初发布的模型到年底再发布同样的模型，成本都会有大幅度下降，甚至有可能降至1/10。

独立研究机构SemiAnalysis在最近一篇分析报告中指出，推理成本的下降是人工智能不断进步的标志之一。原来需要超级计算机、多张GPU才能完成的GPT-3大模型性能，现在一些安装在笔记本电脑上的小模型也能实现同样效果。而且成本也下降了很多，Anthropic首席执行官Dario认为，算法定价成朝着GPT-3质量发展，成本已经降低1200倍。

未来，大模型的降本速度还会越来越快。

感谢你看到这里，也欢迎点击关注下方公众号并添加公众号小助手加入官方读者交流群，一个有趣有AI的AIGC公众号:关注AI、深度学习、计算机视觉、AIGC、Stable Diffusion、Sora等相关技术，欢迎一起交流学习💗～