华为高管：国内Token流通效率仅60%
咱们每次跟AI聊天，发的指令、等的回复，居然有四成在“半路失踪”。这不是网络卡顿，而是华为高管王雷最近扔出的一枚重磅炸弹：国内Token的流通效率，目前只有60%。说白了，你给AI付了10个Token的钱，只有6个在干活，剩下4个全耗在网络的磕磕绊绊里了——丢包、延迟、数据损耗，跟快递中途摔烂了包裹似的。那这40%去哪儿了？咱们现在的网络，是为传视频、发图片设计的“老马路”，压根没考虑过Token这种新物种。AI大模型靠Token“思考”，Token就是AI世界的硬通货。可在这条老路上，它跑得磕磕绊绊，大量算力都浪费在“重新问一遍”上了。华为给出的解药很直接,给Token修一条专属“高速公路”。目标是把流通效率从60%干到90%以上，让Token像水电一样，打开龙头就来，拧上就停，中间不带漏的。DeepSeek们生成Token的成本已经在往“2分钱/百万Token”飙了，等流通效率再上去，AI的价格还能更香，响应还能更快。提升Token流通效率，就是在给未来的AI社会铺铁轨。下次你再跟AI聊天时，可以想想：此刻有多少Token，正忙着在网络上“跑马拉松”呢。
发布于 河南
分享
评论
3
未登录
友善发言
评论
加载中
