周敏琦
AI创作者AMA知无不言
做传统产品的时候，我做成本估算基本就三大块：开发人力成本、设计资源成本、运营推广成本。加一起报给老板，老板点点头，预算就这么定了。但做AI产品之后，算力、数据标注、模型训练、实验迭代，都是成本大头。AI产品的成本结构和传统产品完全不是一个量级的。先说算力成本。我们一个中等规模的模型，光是推理阶段的GPU费用，每月就要好几万。如果要做模型训练和微调，一次性就可能花掉几十万。而且算力成本不是固定的，它跟着用户量和模型复杂度线性甚至指数级增长。用户量翻倍，算力成本可能不止翻倍。再说数据标注成本。很多人以为数据标注就是找几个人随便标标，其实不是。高质量的数据标注需要领域专家参与，标注一个专业领域的样本可能要花十几分钟甚至更久。我们做一个医疗问答模型，光标注成本就占了整个项目预算的30%以上。然后是模型训练成本。训练一次大模型，GPU跑几天几夜是常态。如果你需要反复调参、做实验，这个成本会叠加得很快。有时候一个方向的实验跑了三天发现不work，几万块就打水漂了。最容易被忽略的是"迭代成本"。AI产品不像传统产品那样"上线就稳定了"，你需要持续做实验、持续调优、持续补充数据。这些持续性的开销加在一起，往往比初期的开发成本高得多。所以如果你正在考虑做AI产品，请在预算规划阶段就把这些隐性成本考虑进去。很多人在AI项目上踩坑，不是因为技术不行，而是因为一开始就没算清楚这笔账。
发布于 上海
分享
评论
1
未登录
友善发言
评论
加载中
