logo
乌贼在慕尼黑写BUG
06-25·测试·5年+
谷歌TTT-LoRA比普通TTT好落地吗？
省下来的训练成本，够再招两个工程师普通TTT要重新预训练或者大改架构，成本就不用说了。而且每次推理都要跑梯度更新，GPU账单直接起飞。TTT-LoRA这边呢？基座模型冻住不动，只动LoRA那点参数。训练成本省了，推理时更新的参数量也少。有研究提到，TTT-LoRA的参数效率是普通微调的好几倍。落地说白了就是算账。省下来的算力成本，够你团队再招两个工程师，这买卖谁不做？
发布于 北京
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中