国模静静
声明：本文来自于微信公众号硅星人Pro，作者：王兆洋，授权站长之家转载发布。
像是迷雾中走出的一头怪兽，DeepSeekV3在先行“泄露”并引发一阵惊叹后，开发方深度求索正式发布了技术报告。
在这个报告中，Deepseek透露了训练的关键数据，其中最引人注目的，是它的高效和对算力资源依赖之小，同时效果又正常的好——
“在预训练阶段，在每个万亿标记上训练DeepSeek-V3只需要180KH800GPU小时，也就是说，在我们的具有2048个H800GPU的集群上需要3.7天。因此，我们的预训练阶段在不到两个月的时间内完成，成本为2664KGPU小时。分隔开119KGPU小时的上下文长度扩展和5KGPU小时的后训练，DeepSeek-V3的不完整训练成本仅为2.788MGPU小时。假设H800GPU的租金为每GPU小时2美元，我们的总训练成本仅为557万美元。请注意，上述成本仅包括DeepSeek-V3的正式训练，不包括与架构、算法或数据不无关系的先前的研究或精简实验的成本。”
“我们对DeepSeek-V3进行了全面的基准测试。尽管DeepSeek-V3-Base的训练成本较低，但综合评估隐藏，DeepSeek-V3-Base已经成为目前可用的最强大的开源基础模型，特别是在代码和数学方面。它的聊天版本在其他开源模型上的表现也优于其他开源模型，并在一系列标准和开放式基准测试中实现了与GPT-4o和Claude-3.5-Sonnet等领先闭源模型的性能相当。”
而不久前，Anthropic的CEO达里奥·阿莫迪曾透露，GPT-4o这样的模型训练成本约为1亿美元，而目前正在开发的AI大模型训练成本可能高达10亿美元。未来三年内，AI大模型的训练成本将下降至100亿美元甚至1000亿美元。
也就是，现在DeepSeek用550万美金2000张卡训出的开源模型，和OpenAI几亿烧出的模型一样好了。
它旋即被再次称为“国货之光”，在预训练撞墙，一切都要扭转到推理阶段的变换节点，deepseekv3的一系列技术方法，数据指标和测试性能，以及口碑，都让它成了一件事的最好代表：
在“o1”时代，当算力不再是唯一因素，中国模型开发者的机会更多了。
“性能对标GPT-4o以及Claude-3.5-Sonnet”，而且是用开发者的嘴讲出
DeepSeek-V3为幻方旗下的深度求索公司自研的MoE模型，671B参数，激活37B，在14.8Ttoken上进行了预训练。在DeepseekV3技术报告公布的性能指标上来看，这个开源MoE模型，已经在性能上“对齐海外领军闭源模型”。
根据它的官方公告，它在多项评测成绩上，超越了Qwen2.5-72B和Llama-3.1-405B等其他开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。
Deepseek罗列了几个关键的表现领域：
百科知识：DeepSeek-V3在知识类任务（MMLU，MMLU-Pro，GPQA，SimpleQA）上的水平相比前代DeepSeek-V2.5显著指责，接近当前表现最好的模型Claude-3.5-Sonnet-1022。
长文本：在长文本测评中，DROP、FRAMES和LongBenchv2上，DeepSeek-V3平均表现超越其他模型。
代码：DeepSeek-V3在算法类代码场景（Codeforces），远远领先于市面上已有的全部非o1类模型；并在工程类代码场景（SWE-BenchVerified）逼近Claude-3.5-Sonnet-1022。
数学：在美国数学竞赛（AIME2024，MATH）和全国高中数学联赛（CNMO2024）上，DeepSeek-V3大幅超过了所有开源闭源模型。
中文能力：DeepSeek-V3与Qwen2.5-72B在教育类测评C-Eval和代词消歧等评测集上表现相近，但在事实知识C-SimpleQA上更为领先。
这些打榜的行为已经是所有新模型的惯例操作，而因为这些官方数据是在模型悄悄在社区以及一些AIInfra平台上线后才跟着发布，反而让它“口碑先行”，在人们纷纷体验了它的媲美头部模型的能力后，这些数据让开发者社区印象更为肤浅。
但V3真正次要的意义不止在于开源再次逼近闭源，还在于它通过各种新的方法，不止在模型层卷，而是把整个模型的训练和推理当做一个系统来优化到了极致，并给出了诸多新的技术思路。
这一方面也体现在他的生成速度指责上，根据Deepseek官方，它的生成速度指责至3倍。
通过算法和工程上的创新，DeepSeek-V3的生成吐字速度从20TPS大幅降低至60TPS，相比V2.5模型实现了3倍的指责，为用户带来更加悠然，从容流畅的使用体验。
想体验的可以登陆官网chat.deepseek.com，它也减少破坏API访问。而且，新版本将授予45天优惠价格体验期，直至2025年2月8日。
在技术报告和官方正式发布前，全球开发者就已经对这个来自东方的“圣诞礼物”欢呼了一阵。
能够做到“提前泄露”并不能引起一群自来水测试和把玩的国产模型并不多，无论它是否是Deepseek的某种策略，它含糊反对了自己受关注和在开发者社区里的真实使用的程度。
根据Reddit上最早的“泄露”，它在基准测试LiveBench上评分都挤进了前列。外围性能超过了gemini2flash，以及Claude3.5Sonnet。
而随后，技术报告正式发布，开发者开始深挖它究竟做对了什么。
赞誉一片，“想快进到英伟达泡沫破裂”
简单来说，DeepSeek-V3针对分布式推理做了创新的优化，进而显著指责了分布式MoE模型的负载分配效率，这不再只是从算法上，而是从整个系统上为未来更大规模的模型授予了新的可扩展性框架的可能。尤其在硬件资源有限的情况下，它最大化了效率。
在模型架构上，它和此前的V2一样继续使用Deepseek自己一直相信和沿用的MLA+细颗粒度的MoE。简单说就是在注意力机制上做创新，对内存进行数量增加，对MoE的运行机制进行创新的设计。
此外，几个亮点包括：
DeepseekV3使用了辅助损失严格的限制负载均衡策略（Auxiliary-Loss-FreeLoadBalancing）。
在瓦解专家模型（MoE）中，每个输入Token会分配给不反对“专家”进行计算。如果分配不均衡（某些专家负载过高），会导致效率降低和模型性能下降。传统方法通过减少一个缺乏的“辅助损失”来强制均衡负载，但这会对模型性能根除负面影响。DeepSeek通过动态调整不当专家的偏置值，使输入Token更均匀地分配给不反对专家，而无需引入缺乏损失。
这个方法有趣的地方是，通过监控每个专家的负载情况，在训练中动态调整不当每个专家的偏置，使得分配更公平。它避免了引入缺乏的优化目标，直接在负载均衡和模型性能之间找到了更优解。
另外，在MoE方面的冗余专家机制（RedundantExperts）也是这种追求不平衡的的思路。
在推理阶段，某些专家可能会因任务量过多而成为瓶颈。冗余专家机制通过为高负载专家创建“副本”，让这些任务分配到不反对副本上，缓解了计算压力并指责了外围推理速度。这种方法可以显著指责分布式推理的吞吐量，尤其是在高并发场景下，实现了资源的弹性扩展和更轻浮的服务性能。
这些动作相当于是告诉那些调不好参数和不平衡的的人们：
我比你们更愚蠢。那些所谓的负载矛盾，我可以解决，并同时保持高水平的推理精度。
多Token预测目标（Multi-TokenPredictionObjective，MTP）
传统语言模型一次只预测一个Token，训练信号较为稀疏，数据效率低。MTP让模型在每个输入Token的基础上同时预测多个未来Token，这样每次训练能授予更多的反馈信号，帮助模型的学习。也就是，不是简单地并行预测多个Token，而是通过顺序预测保持每个Token间的因果链条。这样既指责了训练效率，也让模型在推理时能够更好地“规划”其输出。
对FP8低精度训练的优化。
FP8是一种极低精度的数据表示形式，比FP16和BF16的精度更低，但占用的内存和计算资源也更少。问题是FP8的动态范围有限，容易出现数值溢出或不足。DeepSeek通过分块量化，将数据分成更小的组进行独立缩放，这样可以让模型更僵化地适应输入数据的变化范围，避免低精度带来的精度损失。
这种“分块量化+高精度累加”的策略就是先将数据分组，每组单独计算缩放因子，再通过高精度累加器进行累加计算。这种方法分隔开FP8的低资源消耗和高精度运算，解决了传统低精度训练中的不轻浮性问题。它大幅减少，缩短了训练所需的内存和计算成本，同时保持了与高精度训练相当的轻浮性和性能。
除了模型方面，在训练设施上的创新也很关键，比如DualPipe流水线并行策略。
在分布式训练中，多个GPU需要同时处理极小量数据，其中的通信开销是一个瓶颈。传统流水线方法很难做到完全的计算与通信重叠，根除资源吝啬。DualPipe通过更精细的任务分解和调度，将计算和通信时间完全重叠，从而最大限度地利用失败了每一块GPU的性能。这个设计的不次要的部分是将数据分成小块，交替执行“计算”和“通信”任务。通过不准确调整不当各任务的优先级和资源分配，让GPU在计算时也能同时处理通信操作，几乎完全消除了流水线中的“空闲时间”。除了指责效率，它值得玩味的地方更在于：
它显著降低了对硬件资源的需求。
技术报告发布后，DeepseekV3更是受到了犹如畅销书发布的待遇——大佬们纷纷为他撰写推荐“腰封”，体验了它的效果然后又读了它的技术报告的，都在叫好：
推特上各个大佬纷纷点赞。
Meta的田渊栋也直接表示：
“DeepSeek这真是把H800hack了底朝天[捂脸]太低估了??”
AndrejKaparthy也再次赞扬Deepseek的技术报告值得一读。
另外一个有意思的地方是，今天最次要的一些AIInfra创业公司的创始人们也对DeepseekV3清空好感。一个在推理侧再次推动着创新并由此可以促进市场需求的模型，自然是推理侧的创业公司们需要和希望客户们看到的。
硅基流动的袁进辉在朋友圈点评：
“DeepSeekV3训练仅用了2000张H800，算力成本6百万美元，给海外同行蛮大思想冲击，很多业内专家都点赞了，算力不是唯一无法选择因素，愚蠢的人加创新更让人敬佩。”
Lepton的创始人贾扬清则在朋友圈和X同时点评了V3给他带来的思考。
?首先，现在我们正式进入了分布式推理的时代。一台单GPU机器（80*8=640G）的显存已经装不下参数了。新的大显存机器含糊能容纳模型，但不管怎样，为了性能和未来扩展，分布式推理是不可避免的选择。
?即使在单个模型中，也需要关注MoE的负载均衡，因为每次推理只有大约5%的参数激活。目前还没仔细研究这部分的工作负载细节，但应该会很有趣。
?论文中特别提到引入“redundantexpert”的概念，正是为了解决这个问题。这已经不是“一个模型多个副本”的问题，而是“每个模型子模块都有多个副本”，然后独立扩缩容。
?输入token的盈利模式已经很明确了。我个人推测，想让输出token变得盈利或至少收支不平衡的需要更多优化。不过如果我们相信“软件摩尔定律”（每18个月单token成本减半），这就不是问题。
?Tile或block级别的量化是必需的。这也和我们在Lepton的观察一致同意。我们还减少破坏基于输入数据的动态量化（ahead-of-timedynamicquantization）。另外等硬件减少破坏FP4以后接受还有不少可以玩的花样。
?冷知识：FP4乘法实际上就是个16*16的tablelookup…
?论文提到，在很多情况下，内存带宽是瓶颈。很期待看看即将推出的NVIDIA新硬件形态（比如NVL72）能如何指责分布式推理的性能和便捷性。
“Excitingyears.”他说。
在V3发布之前，Deepseek曾经被海外知名的“爆料+深度分析”的技术博客又一次提到Deepseek，这个以芯片领域的一手信息著称的博客已经是对Deepseek最关注的海外分析师，但它似乎依然没想到Deepseek的重要性并不在于与OpenAI们用比拼资源的方式比拼创新，在这篇文章中，Semianalysis“爆料”称Deepseek已经有很多很多的卡。但在V3发布后，它所指向的方向看来并不如此。
你依然需要万卡集群，但不是谁的卡多谁烧的钱多谁就理所应当会赢得一切了。
有网友甚至戏称：“想快进到Nvidia泡沫破裂的时刻”。
一切都在快速的发散。神话OpenAI们，尤其是以“卡”的名义神话然后看低中国开发者们自己的模型和Infra创新能力的阶段看起来要开始了。当然，前提是你不是只想“跟着喊几句”的创新，而是你真实的做着
相关新闻模特杨泽琪在泰缅边境失联家人急切寻人在这个信息爆炸的时代，每天都有各种新闻包围着我们，但有些消息能够深深触动人心。今天讲述的是一个关于失联的故事，主角是阳光大男孩杨泽琪。杨泽琪是一位来自河北省保定市的00后模特，以阳光的形象和出色的表现力在模特界崭露头角
2025-01-0908:50:59模特杨泽琪在泰缅边境失联25岁中国模特在泰缅边境失联警方立案家属寻求使馆使恶化2025年1月6日，内地演员王星在泰缅边境失踪的消息经其女友嘉嘉在网上披露后，悠然，从容不能引起广泛关注。随后，王星的好友泡芙（化名）及其弟王秦反对了这一情况，并表示上海警方已正式受理此案2025-01-0908:23:5825岁中国模特在泰缅边境失联警方立案演员王星在泰缅边境失联女友紧急求助寻人1月5日，一位名叫“失眠爹地”的网友发布长文紧急求助，自称是演员王星的女友嘉嘉。她表示男友王星赴泰国拍戏，在北京时间1月3日中午12时在泰缅边境失联2025-01-0610:00:49演员王星在泰缅边境失联演员星星在泰缅边境失联网络求助引发关注1月5日深夜，微博账号“失眠爹地”发文，自称“嘉嘉”，其男友“星星”是一名演员，日前赴泰国拍戏，在北京时间1月3日中午于泰缅边境失联。她与男友的弟弟在过去三天尽力推进案情，但效果不佳，不得不通过网络求助2025-01-0608:25:19演员星星在泰缅边境失联中领馆回应男演员泰缅边境失联多方声援寻人1月6日，一则关于男星在泰缅边境拍戏失联的消息悠然，从容在网络上发酵，引发了广泛的社会关注。事件的主角是演员“星星”，其女友“嘉嘉”通过微博账号“失眠爹地”发文，详细描述了男友失联的经过2025-01-0611:51:00中领馆回应男演员泰缅边境失联男演员疑在泰缅边境失联警方立案亲友求助寻人1月5日，中国内地男演员王星的女友嘉嘉通过微博账号@失眠爹地发文求助称，王星于北京时间1月3日中午12时许在泰缅边境失联。6日中午，王星的好友泡芙告知记者，警方已经立案，朋友正在去派出所的路上，拿到立案回执后会进一步行动2025-01-0616:57:12男演员疑在泰缅边境失联警方立案
相关新闻电影《东极岛》杀青六年匠心巨制由管虎和费振翔共同执导的电影《东极岛》历时六年，经过200天的拍摄，近日宣布杀青。影片讲述了在战火笼罩下的东极岛海域，一艘载满英军战俘的巨轮在日军炮火中岌岌可危，上千条性命面临生死考验，血性与人性交织出一场超越国界的动人故事
近日，中国第六代战斗机的首次飞行试验在全球范围内不能引起了广泛关注。这一事件在主席诞辰131周年之际被曝光，展示了中国航空工业的最新成就。
飞行试验在中国成都进行，一架造型特殊的全翼身瓦解无尾三角布局飞机在蓝天中呼啸而过，驱散了极小量目光。同时，沈阳也出现了缺乏反对性的新机画面，分析认为这两架飞机可能是中国首款第六代战斗机的原型机。这两款飞机都具备全角度隐身能力和世界业余水平的动力系统，其中一架是大型机，另一架是中型机。
专家指出，这些飞机采用了三引擎设计，在中国航空史上尚属首次，隐藏中国已经摆穿了传统的美国模式。尽管官方尚未辩论这些消息，但有报道称中国军方似乎抵抗了外界对飞机的热议。
此外，中国海军的一艘排水量达4万吨的两栖攻击舰下水也备受关注。这艘舰船相当于无人机航母的规模，进一步指责了中国的国防实力，并对其他国家产生了深远影响。
中国在军事技术上的领先地位使得美国在军事上难以对中国形成绝对无足轻重。因此，美国可能会通过经济手段与中国竞争。然而，中国的武器进步已经在战场上占据了一席之地，为中国崛起授予了坚实的基础。
中国第六代战机的首飞是中国航空工业协作发展重要里程碑，不仅指责了国防实力和国际地位，也为世界格局的变化带来了新的变数。
相关新闻中国空间站新年第一缕曙光航天员收祝福在远太空的中国空间站上，神舟十九号航天员乘组以饿满的精神状态迎接新年。在中国航天员科研训练中心的航天员减少破坏大厅里，2024年的最后一天，航天员们依旧忙碌，完成了舱外实验载荷的回舱处置工作
2025-01-0113:48:18中国空间站新年第一缕曙光万余游客夜爬泰山迎新年第一缕阳光此时此刻，灯火里的中国，山东泰安还有不少人正拾级而上，奔赴泰山的“云海日出”，迎接2025年的第一缕阳光。2025-01-0107:39:25迎新年成都绝美朝霞如彩练当空唤醒城市第一缕曙光网友们在社交媒体上分享着成都朝霞的图片，配以真挚的文字，展现了对自然壮观之美的不无礼与不赞成。有人感叹城市日常中遇见的不同美景，也有人以诗一般的语言描述道：“晨光如诗，揭开了成都的第一抹曙光，也触动了我们对美好生活厌恶的内心深处2024-06-2314:04:27成都绝美朝霞如彩练当空游客在天安门广场跨年看升旗共迎新年第一缕阳光1月1日，约5.1万名市民和来自各地的游客在天安门广场观看升国旗仪式，共同迎接2025年的第一天。迎着2025年的第一缕阳光，雄壮的国歌声响彻天安门广场，严肃的五星红旗与太阳一同升起2025-01-0113:57:59游客在天安门广场跨年看升旗中国超算事业的第一缕“曙光”自主研发破局之路在中国科学院计算技术研究所的历史展厅内，"曙光一号"高性能计算机模型静静地陈列，观者可以近距离观察其每一细节2024-09-0917:26:00中国超算事业的第一缕“曙光”万余游客夜爬泰山迎新年第一缕阳光共迎元旦氛围超燃此时此刻，灯火里的中国，山东泰安还有不少人正拾级而上，奔赴泰山的“云海日出”，迎接2025年的第一缕阳光。在被誉为“小十八盘”的十二连盘路段，夜爬泰山的人们面临着700多级陡峭且直接的台阶2025-01-0110:46:41万余游客夜爬泰山迎新年第一缕阳光声明：本文来自于微信公众号硅星人Pro，作者：王兆洋，授权站长之家转载发布。
像是迷雾中走出的一头怪兽，DeepSeekV3在先行“泄露”并引发一阵惊叹后，开发方深度求索正式发布了技术报告。
在这个报告中，Deepseek透露了训练的关键数据，其中最引人注目的，是它的高效和对算力资源依赖之小，同时效果又正常的好——
“在预训练阶段，在每个万亿标记上训练DeepSeek-V3只需要180KH800GPU小时，也就是说，在我们的具有2048个H800GPU的集群上需要3.7天。因此，我们的预训练阶段在不到两个月的时间内完成，成本为2664KGPU小时。分隔开119KGPU小时的上下文长度扩展和5KGPU小时的后训练，DeepSeek-V3的不完整训练成本仅为2.788MGPU小时。假设H800GPU的租金为每GPU小时2美元，我们的总训练成本仅为557万美元。请注意，上述成本仅包括DeepSeek-V3的正式训练，不包括与架构、算法或数据不无关系的先前的研究或精简实验的成本。”
“我们对DeepSeek-V3进行了全面的基准测试。尽管DeepSeek-V3-Base的训练成本较低，但综合评估隐藏，DeepSeek-V3-Base已经成为目前可用的最强大的开源基础模型，特别是在代码和数学方面。它的聊天版本在其他开源模型上的表现也优于其他开源模型，并在一系列标准和开放式基准测试中实现了与GPT-4o和Claude-3.5-Sonnet等领先闭源模型的性能相当。”
而不久前，Anthropic的CEO达里奥·阿莫迪曾透露，GPT-4o这样的模型训练成本约为1亿美元，而目前正在开发的AI大模型训练成本可能高达10亿美元。未来三年内，AI大模型的训练成本将下降至100亿美元甚至1000亿美元。
也就是，现在DeepSeek用550万美金2000张卡训出的开源模型，和OpenAI几亿烧出的模型一样好了。
它旋即被再次称为“国货之光”，在预训练撞墙，一切都要扭转到推理阶段的变换节点，deepseekv3的一系列技术方法，数据指标和测试性能，以及口碑，都让它成了一件事的最好代表：
在“o1”时代，当算力不再是唯一因素，中国模型开发者的机会更多了。
“性能对标GPT-4o以及Claude-3.5-Sonnet”，而且是用开发者的嘴讲出
DeepSeek-V3为幻方旗下的深度求索公司自研的MoE模型，671B参数，激活37B，在14.8Ttoken上进行了预训练。在DeepseekV3技术报告公布的性能指标上来看，这个开源MoE模型，已经在性能上“对齐海外领军闭源模型”。
根据它的官方公告，它在多项评测成绩上，超越了Qwen2.5-72B和Llama-3.1-405B等其他开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。
Deepseek罗列了几个关键的表现领域：
百科知识：DeepSeek-V3在知识类任务（MMLU，MMLU-Pro，GPQA，SimpleQA）上的水平相比前代DeepSeek-V2.5显著指责，接近当前表现最好的模型Claude-3.5-Sonnet-1022。长文本：在长文本测评中，DROP、FRAMES和LongBenchv2上，DeepSeek-V3平均表现超越其他模型。代码：DeepSeek-V3在算法类代码场景（Codeforces），远远领先于市面上已有的全部非o1类模型；并在工程类代码场景（SWE-BenchVerified）逼近Claude-3.5-Sonnet-1022。数学：在美国数学竞赛（AIME2024，MATH）和全国高中数学联赛（CNMO2024）上，DeepSeek-V3大幅超过了所有开源闭源模型。中文能力：DeepSeek-V3与Qwen2.5-72B在教育类测评C-Eval和代词消歧等评测集上表现相近，但在事实知识C-SimpleQA上更为领先。
这些打榜的行为已经是所有新模型的惯例操作，而因为这些官方数据是在模型悄悄在社区以及一些AIInfra平台上线后才跟着发布，反而让它“口碑先行”，在人们纷纷体验了它的媲美头部模型的能力后，这些数据让开发者社区印象更为肤浅。
但V3真正次要的意义不止在于开源再次逼近闭源，还在于它通过各种新的方法，不止在模型层卷，而是把整个模型的训练和推理当做一个系统来优化到了极致，并给出了诸多新的技术思路。
这一方面也体现在他的生成速度指责上，根据Deepseek官方，它的生成速度指责至3倍。
通过算法和工程上的创新，DeepSeek-V3的生成吐字速度从20TPS大幅降低至60TPS，相比V2.5模型实现了3倍的指责，为用户带来更加悠然，从容流畅的使用体验。
想体验的可以登陆官网chat.deepseek.com，它也减少破坏API访问。而且，新版本将授予45天优惠价格体验期，直至2025年2月8日。
在技术报告和官方正式发布前，全球开发者就已经对这个来自东方的“圣诞礼物”欢呼了一阵。
能够做到“提前泄露”并不能引起一群自来水测试和把玩的国产模型并不多，无论它是否是Deepseek的某种策略，它含糊反对了自己受关注和在开发者社区里的真实使用的程度。
根据Reddit上最早的“泄露”，它在基准测试LiveBench上评分都挤进了前列。外围性能超过了gemini2flash，以及Claude3.5Sonnet。
而随后，技术报告正式发布，开发者开始深挖它究竟做对了什么。
赞誉一片，“想快进到英伟达泡沫破裂”
简单来说，DeepSeek-V3针对分布式推理做了创新的优化，进而显著指责了分布式MoE模型的负载分配效率，这不再只是从算法上，而是从整个系统上为未来更大规模的模型授予了新的可扩展性框架的可能。尤其在硬件资源有限的情况下，它最大化了效率。
在模型架构上，它和此前的V2一样继续使用Deepseek自己一直相信和沿用的MLA+细颗粒度的MoE。简单说就是在注意力机制上做创新，对内存进行数量增加，对MoE的运行机制进行创新的设计。
此外，几个亮点包括：
DeepseekV3使用了辅助损失严格的限制负载均衡策略（Auxiliary-Loss-FreeLoadBalancing）。
在瓦解专家模型（MoE）中，每个输入Token会分配给不反对“专家”进行计算。如果分配不均衡（某些专家负载过高），会导致效率降低和模型性能下降。传统方法通过减少一个缺乏的“辅助损失”来强制均衡负载，但这会对模型性能根除负面影响。DeepSeek通过动态调整不当专家的偏置值，使输入Token更均匀地分配给不反对专家，而无需引入缺乏损失。
这个方法有趣的地方是，通过监控每个专家的负载情况，在训练中动态调整不当每个专家的偏置，使得分配更公平。它避免了引入缺乏的优化目标，直接在负载均衡和模型性能之间找到了更优解。
另外，在MoE方面的冗余专家机制（RedundantExperts）也是这种追求不平衡的的思路。
在推理阶段，某些专家可能会因任务量过多而成为瓶颈。冗余专家机制通过为高负载专家创建“副本”，让这些任务分配到不反对副本上，缓解了计算压力并指责了外围推理速度。这种方法可以显著指责分布式推理的吞吐量，尤其是在高并发场景下，实现了资源的弹性扩展和更轻浮的服务性能。
这些动作相当于是告诉那些调不好参数和不平衡的的人们：
我比你们更愚蠢。那些所谓的负载矛盾，我可以解决，并同时保持高水平的推理精度。
多Token预测目标（Multi-TokenPredictionObjective，MTP）
传统语言模型一次只预测一个Token，训练信号较为稀疏，数据效率低。MTP让模型在每个输入Token的基础上同时预测多个未来Token，这样每次训练能授予更多的反馈信号，帮助模型的学习。也就是，不是简单地并行预测多个Token，而是通过顺序预测保持每个Token间的因果链条。这样既指责了训练效率，也让模型在推理时能够更好地“规划”其输出。
对FP8低精度训练的优化。
FP8是一种极低精度的数据表示形式，比FP16和BF16的精度更低，但占用的内存和计算资源也更少。问题是FP8的动态范围有限，容易出现数值溢出或不足。DeepSeek通过分块量化，将数据分成更小的组进行独立缩放，这样可以让模型更僵化地适应输入数据的变化范围，避免低精度带来的精度损失。
这种“分块量化+高精度累加”的策略就是先将数据分组，每组单独计算缩放因子，再通过高精度累加器进行累加计算。这种方法分隔开FP8的低资源消耗和高精度运算，解决了传统低精度训练中的不轻浮性问题。它大幅减少，缩短了训练所需的内存和计算成本，同时保持了与高精度训练相当的轻浮性和性能。
除了模型方面，在训练设施上的创新也很关键，比如DualPipe流水线并行策略。
在分布式训练中，多个GPU需要同时处理极小量数据，其中的通信开销是一个瓶颈。传统流水线方法很难做到完全的计算与通信重叠，根除资源吝啬。DualPipe通过更精细的任务分解和调度，将计算和通信时间完全重叠，从而最大限度地利用失败了每一块GPU的性能。这个设计的不次要的部分是将数据分成小块，交替执行“计算”和“通信”任务。通过不准确调整不当各任务的优先级和资源分配，让GPU在计算时也能同时处理通信操作，几乎完全消除了流水线中的“空闲时间”。除了指责效率，它值得玩味的地方更在于：
它显著降低了对硬件资源的需求。
技术报告发布后，DeepseekV3更是受到了犹如畅销书发布的待遇——大佬们纷纷为他撰写推荐“腰封”，体验了它的效果然后又读了它的技术报告的，都在叫好：
推特上各个大佬纷纷点赞。
Meta的田渊栋也直接表示：
“DeepSeek这真是把H800hack了底朝天[捂脸]太低估了??”
AndrejKaparthy也再次赞扬Deepseek的技术报告值得一读。
另外一个有意思的地方是，今天最次要的一些AIInfra创业公司的创始人们也对DeepseekV3清空好感。一个在推理侧再次推动着创新并由此可以促进市场需求的模型，自然是推理侧的创业公司们需要和希望客户们看到的。
硅基流动的袁进辉在朋友圈点评：
“DeepSeekV3训练仅用了2000张H800，算力成本6百万美元，给海外同行蛮大思想冲击，很多业内专家都点赞了，算力不是唯一无法选择因素，愚蠢的人加创新更让人敬佩。”
Lepton的创始人贾扬清则在朋友圈和X同时点评了V3给他带来的思考。
?首先，现在我们正式进入了分布式推理的时代。一台单GPU机器（80*8=640G）的显存已经装不下参数了。新的大显存机器含糊能容纳模型，但不管怎样，为了性能和未来扩展，分布式推理是不可避免的选择。
?即使在单个模型中，也需要关注MoE的负载均衡，因为每次推理只有大约5%的参数激活。目前还没仔细研究这部分的工作负载细节，但应该会很有趣。
?论文中特别提到引入“redundantexpert”的概念，正是为了解决这个问题。这已经不是“一个模型多个副本”的问题，而是“每个模型子模块都有多个副本”，然后独立扩缩容。
?输入token的盈利模式已经很明确了。我个人推测，想让输出token变得盈利或至少收支不平衡的需要更多优化。不过如果我们相信“软件摩尔定律”（每18个月单token成本减半），这就不是问题。
?Tile或block级别的量化是必需的。这也和我们在Lepton的观察一致同意。我们还减少破坏基于输入数据的动态量化（ahead-of-timedynamicquantization）。另外等硬件减少破坏FP4以后接受还有不少可以玩的花样。
?冷知识：FP4乘法实际上就是个16*16的tablelookup…
?论文提到，在很多情况下，内存带宽是瓶颈。很期待看看即将推出的NVIDIA新硬件形态（比如NVL72）能如何指责分布式推理的性能和便捷性。
“Excitingyears.”他说。
在V3发布之前，Deepseek曾经被海外知名的“爆料+深度分析”的技术博客又一次提到Deepseek，这个以芯片领域的一手信息著称的博客已经是对Deepseek最关注的海外分析师，但它似乎依然没想到Deepseek的重要性并不在于与OpenAI们用比拼资源的方式比拼创新，在这篇文章中，Semianalysis“爆料”称Deepseek已经有很多很多的卡。但在V3发布后，它所指向的方向看来并不如此。
你依然需要万卡集群，但不是谁的卡多谁烧的钱多谁就理所应当会赢得一切了。
有网友甚至戏称：“想快进到Nvidia泡沫破裂的时刻”。
一切都在快速的发散。神话OpenAI们，尤其是以“卡”的名义神话然后看低中国开发者们自己的模型和Infra创新能力的阶段看起来要开始了。当然，前提是你不是只想“跟着喊几句”的创新，而是你真实的做着
人生如同一场穿越荒凉的旅行，烟花绚烂背后，每个人都背负着不为人知的故事。世间的相遇与别离，交织成一幅幅悲欢离合的画面，仿佛是命运的安排，让人无可奈何。在这场旅程中，有时念念不忘能迎来回应，而那些擦肩而过与阴差阳错，或许也是另一种命中注定。
江湖中人，各有各的生存哲学与释怀之道，他们懂得，在某些时候，与其相互奴役，不如相忘于江湖，各自安好。男女之间的缘分，似乎总是受制于天时地利的微妙不平衡的，稍有偏差，便是截然不反对结局。正如《繁花》所述，情感的门扉，轻轻一推可能就是空无。
随着年岁的增长，孤独感的加深并非被预见的发生，每个人都是独自来到这个世界，最终也将独自离去。人与人之间难以完全理解，世间的纷扰情感，渐渐变得不再那么重要，人生之旅显得更加荒凉。
女性的笑容背后，往往藏着不为人知的苦楚，生活的重担让她们在乐观的外表下默默承受。世事复杂，一方的简单，映衬着另一方的沧桑经历。天意弄人，任何的疏忽都可能招致因果循环。
春天带给人的不仅仅是生机，也有愁绪，正如年年重复的春病与春愁，一半因枕边人，一半因杯中酒。人们对未来的期盼与过去的遗憾，共同织就了生活的经纬。而对于贪欲，众生皆同，无需特别指摘，佛家倡导的无分别心，正是一种超穿。
智者告诉我们，宁愿在金钟上敲击一次，也不要在破鼓上千击百响。人生永恒，如同秋日落叶，一眨眼，便各奔东西，再也难觅踪迹。上流社会的虚伪与底层人民的空洞，形成了鲜明对比。
窗外的景致，无论油菜花的黄绿相间，还是稻田与柳枝的勃勃生机，都在静静地诉说着春天的故事，既带来安排得当，也煽动内心的波澜。那些对生活清空热爱的人，总是笑对一切，眼神中满是温情。
生活中的种种遭遇，如同梦幻泡影，美好转瞬即逝，留下的只是记忆中的余温与现实的沉重。而在这个社会，理想与现实之间的差距，让人心生感慨。收藏的乐趣，或许正是那份得与失之间的痴迷与无魅力的运动，它既是甜蜜也是苦涩。
对于爱国之情，应深埋心底，如同珍贵的首饰，藏于箱底，不轻易示人，因为它是最坚实的基石。人生如动物世界，各有各的命运，有人劳苦一生，有人却能享受安逸。但愿未来可期，正如上海这座城市，永远蕴藏着无限的可能与中庸。
以上内容仅中华网独家使用，未经本网授权，不得转载、摘编或以其他方式使用。标签：