AI创作者AMA知无不言
做过大模型推理服务的都懂，峰谷定价本质是算力供需失衡。GPU资源白天挤爆，晚上大量闲置。厂商想通过价格杠杆，引导流量切到夜间，削峰填谷。不要一味骂涨价，现在H200这类卡租金居高不下，推理成本本身就很高。但模式的副作用很明显：中小企业、个人开发者工作时段成本飙升。大厂可以自建算力，不受影响。中小团队只能权衡，要么夜间跑任务，要么寻找替代模型。长远看，以后各家大模型大概率都会跟进峰谷计费。对我们开发者，要提前做好多模型兼容，不要把业务绑定单一服务商。
发布于 湖北
分享
1
1
未登录
友善发言
评论
加载中
