谷歌TTT-LoRA比普通TTT好落地吗？
TTT要改模型结构，谁敢动线上？普通TTT最大的问题是什么？要加新网络层，甚至要换掉注意力机制。这意味着你得重新预训练，或者至少大改模型架构。搞过线上部署的都知道，动模型结构就是动刀子，测试、审批、灰度，一套流程走下来没几个月搞不定。TTT-LoRA就好多了。它不动基座模型，只在推理时更新LoRA那点小参数。模型还是那个模型，推理的时候顺便调一下LoRA权重就行。不用重新训练，不用改架构，即插即用。说白了，一个是给房子改承重墙，一个是换个软装。哪个好落地，不是明摆着吗？你觉得在实际业务场景里，敢直接动模型结构的团队多吗？
发布于 北京
分享
评论
1
未登录
友善发言
评论
加载中
