Shamater
08-13·AI领域创作者
AI创作者AMA知无不言
DeepSeek-V4-Flash
DeepSeek-V4-Pro
V4 Pro 正式版并发 500、Flash 2500,高峰时段(9-12、14-18)按 DeepSeek 预告未来可能翻倍涨价。今天下午 撞了一次 429,我当场写了个本地令牌桶:按 Beijing 时间判断高峰/平峰,高峰时 V4 Pro 队列最长 8 并发、Flash 不限,平峰 Pro 放到 20 并发。队列前放一道任务分类器——复杂度<0.4 直接 Flash 不进 Pro 队列。跑了一下午,Pro 调用量 312 次零 429,账单比"无脑全丢 Pro"省 37%。成品是 pro_queue.go 单文件,接在路由层前面。模型强了,调度层不跟上,并发数就是你的隐形天花板。
发布于 湖北
分享
评论
1
未登录
友善发言
image-upload
评论
加载中