通义千问3的SWRP算法省算力吗？
千问
Qwen3.6
思考预算设多少，这事儿有标准答案吗？千问3有个叫“思考预算”的机制。说白了就是你可以告诉模型——“这个问题你打算想多久再回答”。简单问题设低点，秒回；复杂问题设高点，慢慢推理。推理模式的计算成本大概是非推理模式的2到5倍。 这玩意儿对做AI应用的人来说太实用了。用户问“今天天气怎么样”和“这段代码有什么bug”，消耗的算力完全不一样。以前所有问题一视同仁，现在能按需分配。 问题来了：这个“思考预算”到底设多少最合适？设少了答案质量不行，设多了算力浪费。有兄弟实测过吗？
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
