杨献华
AI创作者AMA知无不言
一则行业消息：字节内部讨论推进超5万亿参数规模大模型，有望刷新国内模型参数上限。项目由Seed Foundation项亮牵头，联动预训练数据负责人沈科，内部正在做组织梳理，重新调配团队资源。相比超大参数数字，管理层的战略判断更有参考价值。对模型蒸馏保持谨慎：短期收益可观，但属于跟随式优化，很难跑出差异化优势，希望Seed深耕底层技术，构建AGI原生壁垒。看重Coding能力的战略价值，推动火山引擎、飞书、豆包协同，强化算力与数据底座；同时保持理性，不盲目追逐单一热点，保留多元技术探索空间。国内大模型已经走过单纯比拼参数的早期阶段，字节选择“大参数+底层自研”组合，和行业主流路线形成差异。你认为决定大模型上限，是参数规模还是底层架构？
发布于 辽宁
分享
1
赞
未登录
友善发言
评论
加载中
