王西蒙AI创客
1天前·AI领域创作者
字节Seed基模团队成立四个一级部门
字节Seed基模团队成立了四个新的一级部门。这是字节AI战略的一次重大升级。以前是散兵游勇,现在是正规军。四个部门把预训练、强化学习、B端应用、C端应用全部分开,各管一摊。Pretrain Data部门统一负责新Omni模型的多模态数据及超大模型预训练工作。Horizon RL整合了此前散落在后训练的强化学习团队。Product Posttrain-Work主要服务B端应用。Product Posttrain-Chat服务C端应用。四个部门互相独立又互相配合,字节的组织设计确实有一手。字节这次调整的目标很明确:为5万亿参数超大模型铺路。5万亿参数的模型,比现在市面上所有的模型都大。训练这样的模型需要海量数据和算力,也需要高效的组织来支撑。字节在赌大模型的路子还没走到头,堆参数还能继续堆出奇迹。梁汝波之前说大语言模型会坚定自研。现在组织调整落地了,说明字节不是在喊口号,是在真干。但5万亿参数的模型能不能训出来、训出来之后有没有用,都是未知数。字节在AI上押了重注,赌的是大模型的规模效应还没到天花板。这个赌注很大,赢了通吃,输了通赔。
发布于 四川
分享
评论
未登录
友善发言
image-upload
评论
加载中