夜勤月
06-25·AI领域创作者
周鸿祎:盲目消耗Token抬高企业成本
盲目消耗Token,正在推高企业AI成本
看周鸿祎聊AI成本的观点,我太有共鸣了。之前团队搭内部AI助手,一开始图省事全调用顶级大模型,连文档摘要、话术润色这种简单活都全量跑,月底算力账单直接超预算两倍多。后来我们做了场景分层:常规问答用轻量小模型+本地知识库,只有复杂逻辑推理、代码生成才上大模型。就这一个调整,Token消耗直接砍了六成,使用体验几乎没打折扣。现在很多企业上AI只追效果不算账,好像堆Token就是智能化,本质还是粗放式落地。AI拼的从来不是谁烧钱快,而是把每一分算力都花在刀刃上。大家公司的AI成本控得怎么样?
发布于 江西
6
30
10
未登录
友善发言
image-upload
评论
加载中