张凯文
最近看到一个变化，挺有意思。越来越多模型厂商开始把任务分成不同价格、不同优先级、不同响应速度。实时任务一个价格。批量任务一个价格。低优先级任务可以更便宜。能等几个小时、甚至一天的任务，也可以走另一套处理方式。我觉得这背后有一个信号：AI 不只是继续变聪明，也开始进入“算力运营”阶段。过去大家更关心：哪个模型最强？哪个模型推理更好？哪个模型上下文更长？哪个模型写代码更厉害？这些当然还重要。但接下来企业可能还要多问一层：这个任务到底急不急？值不值得用最快的模型？能不能晚上批量跑？能不能把低风险任务放到低成本通道？哪些任务必须实时响应，哪些任务只要第二天早上有结果就行？这对企业用 AI 的方式影响很大。比如客户在线咨询，当然要快。销售现场辅助，也要快。客服异常升级，要快。关键合同风险提醒，也不能慢。但客户画像更新、历史数据清洗、经营日报、知识库重算、材料初审、批量质检、线索评分，这些任务很多并不需要马上返回。如果企业把所有 AI 任务都当成实时任务处理，成本一定会越来越高。如果企业为了省钱，把关键实时任务也放到低优先级处理，体验和风险又会出问题。所以未来企业 AI 落地，可能不能只看“有没有接入 AI”。还要看：任务有没有分层；成本有没有分层；模型有没有分层；实时和异步有没有分开；高风险和低风险有没有分开；前台体验和后台处理有没有分开。这其实和企业经营很像。不是所有事情都要老板当天拍板。不是所有问题都要最高级别会议处理。不是所有客户都用同一套服务成本。不是所有流程都值得上最贵资源。AI 进入企业之后，也会遇到同样的问题。模型越强，越不能粗放使用。成本越低，越不能随便浪费。任务越多，越需要运营和调度。所以我现在越来越觉得，企业 AI 能不能真正跑起来，不只是看买了什么模型。还要看有没有一套 AI 任务调度能力。哪些任务实时做。哪些任务批量做。哪些任务人工复核。哪些任务低成本先跑。哪些任务必须保留高质量模型。AI 的下一阶段，可能不是单纯“更聪明”。而是：更聪明，同时更会算账。你们公司现在用 AI，是所有任务都用同一种方式处理，还是已经开始按时效、风险和成本做分层？
发布于 北京
分享
2
1
未登录
友善发言
评论
加载中
