LoopWM世界模型长时序稳吗？
最近世界模型圈最让我印象深刻的是 FaceMind 那篇 LoopWM。1.2M 参数在 MuJoCo、RoboDesk、BAIR Robot Pushing 三个标准基准上追平 120M 的基线，参数效率直接 100×——这数字我盯着看了好几遍才敢信。机制说穿了不复杂：把一个 Transformer 块参数共享，在潜空间反复迭代，Prelude 整合上一时刻状态+当前观测+动作，Recurrent Block 反复打磨潜状态，Coda 才把结果交给预测头。简单步子少推，复杂步子多推，平均省 78% FLOPs，50 步累积误差压低 63%。但让我越想越怕的，是那个被讨论得太少的谱稳定性约束：状态保持矩阵的特征值被卡死在收缩区间，循环更新数值上严格收敛，再怎么迭代潜状态也不会悄悄爆炸。ScienceWorld 上 1B 参数的 LoopWM 拿到 68.4% EM，比 Claude-opus-4-6-max 的 47.2% 高出 21 个点；Lifespan 任务从 0% 直接拉到 100%。当大家还在堆深度、堆参数、堆数据时，脸谱心智把"迭代潜深度"做成了世界模型的第四根 scaling axis——这件事让我这个老架构师有点恍惚：之前我"加深"的所有执念，到底是在解决问题，还是在制造问题。
发布于 福建
1
评论
赞
未登录
友善发言
评论
加载中
