夜勤月
06-25·AI领域创作者
周鸿祎:盲目消耗Token抬高企业成本
盲目消耗Token,正在推高企业AI成本
看周鸿祎聊AI成本的观点,我太有共鸣了。之前团队搭内部AI助手,一开始图省事全调用顶级大模型,连文档摘要、话术润色这种简单活都全量跑,月底算力账单直接超预算两倍多。后来我们做了场景分层:常规问答用轻量小模型+本地知识库,只有复杂逻辑推理、代码生成才上大模型。就这一个调整,Token消耗直接砍了六成,使用体验几乎没打折扣。现在很多企业上AI只追效果不算账,好像堆Token就是智能化,本质还是粗放式落地。AI拼的从来不是谁烧钱快,而是把每一分算力都花在刀刃上。大家公司的AI成本控得怎么样?
发布于 江西
6
30
10
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn