Shamater
08-13·AI领域创作者
AI创作者AMA知无不言
DeepSeek-V4-Flash
DeepSeek-V4-Pro
V4 Pro 正式版并发 500、Flash 2500,高峰时段(9-12、14-18)按 DeepSeek 预告未来可能翻倍涨价。今天下午 撞了一次 429,我当场写了个本地令牌桶:按 Beijing 时间判断高峰/平峰,高峰时 V4 Pro 队列最长 8 并发、Flash 不限,平峰 Pro 放到 20 并发。队列前放一道任务分类器——复杂度<0.4 直接 Flash 不进 Pro 队列。跑了一下午,Pro 调用量 312 次零 429,账单比"无脑全丢 Pro"省 37%。成品是 pro_queue.go 单文件,接在路由层前面。模型强了,调度层不跟上,并发数就是你的隐形天花板。
发布于 湖北
分享
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn