雪咤
06-28·全栈工程师·5年+
我来爆个料
Gemini端侧推理,手机要变天
谷歌Gemini 3.0搞了个80/20分流策略,90%活跃用户每天零次云端调用,推理直接跑在端侧。我测了一下,延迟从云端的2秒降到200毫秒,隐私问题也解决了,关键是推理成本几乎为零。这对移动端开发者是核弹级的机会,以前必须联网的AI功能,现在离线就能跑,智能手表、车机、IoT设备全部能装大脑。高通CEO都说智能体体验创新正在中国率先落地,这波端侧AI浪潮,中国开发者有供应链和场景优势。建议做移动端和嵌入式的同学,赶紧研究NNAPI和端侧模型量化,下一个独角兽可能就出在这个方向,现在进场还不算晚。端侧+Agent+IoT,想象空间太大了,未来三年会出现很多新应用场景。这波风口,真的别错过。端侧AI的想象空间才刚刚打开。
发布于 广东
1
评论
1
未登录
友善发言
image-upload
评论
加载中