华为高管：国内Token流通效率仅60%
华为说Token流通效率只有60%，意思是40%的算力价值在传输中蒸发了。一个行业如果40%的投入都打了水漂，那这个行业离"成熟"还差着十万八千里。王雷是华为数据通信产品线总裁，他说话代表着华为在算力网上的布局方向。华为正在做"以Token为中心的算力网"——说白了就是帮运营商和互联网公司把Token从A运到B，尽量少丢、少抖、少延迟。但这事比想象中难得多。AI推理的实时性要求太高了，稍微抖一下，模型输出就可能出问题。王雷预测2030年AI计算经济将超30万亿。30万亿的市场，40%的传输损耗，意味着每年有12万亿在"运Token"的路上被浪费掉。12万亿是什么概念？比很多国家的GDP还高。Token经济的真正瓶颈不在模型，在网络。谁先把Token的"物流效率"提上去，谁就能在AI时代卡住身位。
发布于 四川
分享
评论
1
未登录
友善发言
评论
加载中
