logo
单纯的小河马放牧
07-13·AI领域创作者
2026WAIC 云逛张江基建场
最大的感受是：别再神话大模型了，它能不能落地，全看底层基建“柴火”够不够。说个被忽视的痛点——推理成本。很多公司砸钱训好模型，上线才发现，用户问一嘴的成本要几分钱，高并发下利润直接烧穿。张江这边现在卷的是算力调度和推理加速，把大模型蒸馏成小模型塞进边缘设备。别总盯着参数有多高，能把每次调用成本打到“分”乃至“厘”级别，AI才能从炫技走向水电煤式的普及。少谈参数，多谈单位经济模型。
发布于 江苏
分享
评论
赞
未登录
友善发言
image-upload
评论
加载中