蚂蚁Token开始限额，每月200美金
之前大厂无限制免费调用的时候，身边不少同事随便复制长文本反复提问，写完方案随手刷新十几次，大量无效请求白白消耗算力，服务器每天负载爆满，运维团队天天加班扩容。现在很多大厂开始约束使用额度，大家都会下意识精简提示词，能一次搞定的内容绝不重复调用，算力利用率肉眼提升，公司也能省下一大笔硬件采购开销。如果能按照岗位、使用场景划分差异化额度，研发岗提高基础上限，文职岗维持现有标准，兼顾成本管控和不同岗位的实际需求，而不是所有人共用同一套上限，这样既能管控算力成本，也不会耽误研发人员正常工作。
发布于 天津
分享
评论
赞
未登录
友善发言
评论
加载中
