logo
夜勤月
06-24·AI领域创作者
卡坦扎罗：企业算力开销远超人力成本
企业算力开销超人力，AI团队得算细账
最近跟几家创业公司CTO聊，大家都吐槽算力账单比工资表还吓人。我之前也踩过坑，上来就租A100跑小任务，半个月造了几万预算。以前成本大头是算法工程师薪资，现在跑微调、推理集群，月光十几万算力费是常态。很多公司盲目上大模型项目不算ROI，很容易拖垮现金流。中小团队建议先从推理侧优化，量化、蒸馏能省一半成本，别上来就堆卡。你们公司算力占比到多少了？
发布于 江西
7
15
8
未登录
友善发言
image-upload
评论
加载中