华为高管：国内Token流通效率仅60%
近期，就在行业大会上，华为高管直言，国内AI Token流通效率只有60%，相当于每100份算力，40份全被网络损耗白白耗掉！很多人可能分不清，这里的Token是AI计算单位，不是虚拟币。损耗根源就是老旧网络架构，跨区域调用时丢包、延迟、反复重传，算力还没送到用户手里就消耗一空。有企业踩坑案例，异地部署智能客服，高峰期频繁重传，每月算力账单凭空多出四成开销，利润直接被吃掉一大块。现在国内日均Token调用量早已突破140万亿，行业内卷到极致，DeepSeek已经把百万Token成本压到2分钱，厂商拼命压低生成成本，结果传输环节疯狂浪费，等于一边节流一边大额漏水 。行业标准明确，想要规模化商用，流通效率最少要冲到90%。说白了，现在AI比拼不只是模型强弱，底层网络基建才是隐形分水岭。中小AI公司最吃亏，没有专属优化网络，算力成本居高不下。未来，谁能搭建适配AI的专用传输链路，减少无效损耗，谁就能拿下成本优势，这场算力基建大战才刚刚开始。
发布于 北京
5
14
9
未登录
友善发言
评论
加载中
