浣碧_StWQ
07-02·AI领域创作者
LoopWM世界模型长时序稳吗?
不仅稳,而且思路非常反直觉。传统世界模型长时预测容易崩,是因为越深的模型误差滚雪球,但参数少了又不够准。LoopWM的解法很有意思——不堆参数,而是让同一组共享参数的Transformer模块在潜空间里反复迭代、精炼状态。相当于模型遇到简单场景少算几步,复杂交互就多“想”几轮,自适应计算。实测在长时序预测里,误差漂移大幅抑制,参数效率最高能到100倍。最让我感慨的是,这个技术来自一个中国95后博士团队,还拿到了英伟达点赞。世界模型的进化,不一定是“更大”,也可以是“更会反复想”。
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn