李韩飞
08-09 · 苏宁易购
🚀小参数:Liquid AI端侧革命
26亿参数如何“越级”碾压8B对手?Liquid AI的LFM2.5-2.6B给出答案——在指令遵循与工具调用上全面超越参数翻倍的Gemma系列,Agent任务甚至与97亿参数的Qwen3.5-9B打平。核心秘密在于架构:30层中巧妙混合22个卷积块与8个GQA注意力层,通过神经架构搜索自动发现。在Apple M5 Max上达220 tok/s,内存低于2.5GB,智能手机也能流畅运行。这标志着AI竞赛从“参数军备”转向“部署效率”。模型不再追求全面最强,而是“足够好+随处可部署”。与MacPaw的合作更验证了端侧AI的商业闭环。案例启示:某物流企业已在树莓派上部署该模型做包裹分拣语音助手,成本仅为云端方案的1/20。当推理不再依赖云端,AI的普及才真正开始。
发布于 江苏
2
评论
未登录
友善发言
image-upload
评论
加载中