曝字节拟训练超5万亿参数大模型
字节正在改写国内大模型的游戏规则5万亿参数是什么概念？阿里的Qwen 3.8-Max是2.4万亿，月之暗面的K3是2.8万亿。字节这一下，就要把参数规模翻倍，直接压过所有已知的国内同行。这个动作的杀伤力不止在数字上。字节在告诉所有人：我不跟你们在同一条跑道上卷了，我要直接把跑道拓宽一倍。算力门槛也会被重新定义。据测算，以H100为基准，训练5万亿参数模型需要10万颗H100连续跑347天，或者100万张显卡跑35天。这个级别的投入，大部分公司根本跟不起。字节赌的是：一旦5万亿模型跑通，国内大模型的竞争门槛会被直接拉到“只有少数几家能玩”的程度。同时字节在AI基础设施上确实有先发优势，火山引擎已经是国内最大的模型API卖家，市场份额约占一半。金元证券也提到，字节AI基础设施布局已先行一步。当然，这不代表字节稳赢。5万亿模型的训练难度和成本都极高，项目还处于早期阶段，最终不一定会发布。而且AI竞赛不只是参数竞赛，推理成本、商业化落地能力同样重要。张一鸣说要“愿意为长期目标牺牲一部分短期收益”，字节这次确实是在用真金白银证明这句话。5万亿参数，如果真跑出来，国内大模型的牌桌格局，确实可能被彻底改写。
发布于 四川
1
4
1
未登录
友善发言
评论
加载中
