郭玉铜
08-08 · OPC·创始人-Eric_网瘾中年_AI探路者
算法不断升级,AI使用成本会降低吗?
AI的“白菜价”来了,我们能躺平享受吗?
咱们来聊一个特别接地气的事儿。前几天我熬夜赶方案,顺手打开了某个AI写作助手。看着它几秒钟就生成了一大段还像模像样的文字,我脑子里突然蹦出个念头:这帮搞AI的大佬们,天天喊着算法又升级了、模型又迭代了,可这玩意儿,到底什么时候能便宜得跟大白菜似的,让我随便用不心疼啊?我相信不止我一个人这么想。算法不断升级,AI的使用成本会降低吗?我的答案是:会,而且是断崖式下跌,但这笔账,得掰开了揉碎了算。首先,得搞清楚“成本”这俩字背后,到底藏着什么。最直观的,是你我每个月掏的那20美金的会员费,或者调用一次API花的几毛钱。这背后,是实实在在的电费、服务器折旧费和工程师的头发。现在的算法升级,干的最牛的一件事,就是给模型“瘦身”。你想啊,以前的模型就像个超级大胖子,胃口大得惊人,跑一步路就要吃掉一整头牛的算力。现在呢?大家开始追求“小美精”了。比如搞出MOE(混合专家模型)这种架构,就像一家公司,以前不管啥活儿都召集全体员工开大会,现在呢,来了个前台咨询的活儿,就只派前台专家去,财务的、技术的专家继续睡大觉。这样一来,干活的人少了,效率高了,电费自然就降下来了。还有量化技术,更是绝了。它能把模型参数的精度从高精度的FP32(你可以理解成用32位小数来记录一个数字)压缩到INT4(只用4位整数)。这就像你原本要雇一辆卡车去运一箱矿泉水,现在发现把矿泉水瓶里的空气挤一挤,塞进双肩包,骑个共享单车就能送。信息没丢多少,但运输成本断崖式下跌。从这个角度看,底层算力成本,绝对是雪崩式下滑的。 OpenAI的CEO也说过,使用他们顶级AI的成本,大概每18个月就降到原来的十分之一。这不是降价,这是雪崩。但别高兴太早,咱再从另一个角度算算账。技术的成本在降,可你的“胃口”也在疯长啊。这就像手机流量,4G刚出来那会儿,一个月1GB觉得哇塞用不完,现在呢?一个月30GB可能都战战兢兢,生怕刷几个高清视频就见底了。不是流量单价没降,是我们的用法彻底变了。AI也一样。算法升级了,成本低了,应用场景就像开了闸的洪水,挡都挡不住。
发布于 上海
1
1
未登录
友善发言
image-upload
评论
加载中