糖心出品里面有个叫小七的:糖心vlog app官网入口-华为：昇腾AI计算平台训练出准万亿MoE模型

频道：商业 日期： 浏览：1

5月30日消息，华为宣布推出参数规模高达7180亿的全新模型盘古Ultra MoE，这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。据悉，盘古团队提出Depth-Scaled Sandwich-Norm（DSSN）稳定架构和TinyInit小初始化的方法，在昇腾平台上实现了超过18TB数据的长期稳定训练。在训练方法上，华为团队首次披露在昇腾CloudMatrix 384超节点上打通大稀疏比MoE强化学习（RL）后训练框架的关键技术，使RL后训练进入超节点集群时代。