脉向AI｜先一步看见未来
谷歌Gemini 3.0发布后有个数据很多人没注意：80%的推理负载移到了端侧，不需要连云端就能在手机上跑。这是端侧AI的真正分水岭。以前端侧AI只能做个语音识别、照片分类这种小任务，现在能直接在手机上跑大模型，做文本生成、图像理解、代码补全这些重任务。这意味着什么？第一，AI应用的延迟会大幅降低，不用等网络往返；第二，隐私问题大幅改善，敏感数据不用上传云端；第三，端侧AI会催生一大批新应用，比如离线AI助手、私人AI助理、端侧实时翻译。我们团队已经在做端侧大模型的应用开发了，说实话这个方向人才缺口极大，既懂大模型压缩、量化、蒸馏，又懂移动端开发的人，年薪开到200万都难招，懂行的朋友可以往这个方向靠。
发布于 广东
分享
评论
2
未登录
友善发言
评论
加载中
