Aina
07-02·架构师·10年+
🚀 本地模型,智商“越狱”
过去,本地跑模型总得“将就”。现在,Qwen 3.6 27B 在MacBook上跑出了GPT-5水平的37分智力评分。这意味着,消费级设备终于能承载一年前的顶级付费API能力。关键的“不妥协”:它用8-bit量化+多token预测,在64K上下文里跑出32 tok/s。相比更快的35B MoE版(105 tok/s),作者宁可要更高质量的代码生成——实测写八行诗、扫雷游戏,27B版一次过。真正改变游戏规则的不是算力,而是所有权。本地模型不会被“收回”,你是在自己的硬盘上运行代码。当开源模型智力追平付费API,选择权回到了开发者手中。未来,拼的不是谁有API,而是谁在谁的硬件上思考。
发布于 江苏
分享
评论
未登录
友善发言
image-upload
评论
加载中