通义千问3的SWRP算法省算力吗？
通义千问3的SWRP算法，本质是让AI学会"偷懒"——简单问题少动脑子，复杂问题多动脑子。但AI自己判断"这题难不难"，跟学生考试时判断"这题会不会做"一样，经常翻车。千问3是国内首个"混合推理模型"。MoE架构让模型在推理时只激活部分参数。思路是对的——大模型推理太耗算力了，能省一点是一点。但"判断题目难度"这件事本身就需要算力。你让AI先判断"这题难不难"，再决定用多少算力去回答。判断本身就在消耗算力。更扎心的是，如果判断错了，省算力就成了废算力。把简单问题当复杂问题处理，浪费算力；把复杂问题当简单问题处理，浪费时间重问。SWRP算法到底省不省算力，取决于判断准确率有多高。技术报告里没提这个数据，我猜是不太好看。
发布于 北京
分享
评论
赞
未登录
友善发言
评论
加载中
