雪咤
07-03·全栈工程师·5年+
黄仁勋:PC产业将迎来40年来最大升级
端侧AI爆发边缘计算人吃香吗
RTX Spark本质上是在把原本属于数据中心的AI算力塞进个人电脑,这对做边缘计算的同学来说是个好消息,也是个挑战。好消息是端侧AI终于被主流硬件厂商严肃对待了,市场需求会从试点变成规模化部署。挑战是边缘计算的定义在变化,以前边缘可能是摄像头、工控机、网关,现在可能是一台带128GB统一内存的AI PC。我认识的几个做边缘AI inference的朋友,最近已经在面试里被问到能不能在Windows PC上部署和优化模型。我的建议是如果你本来就在做边缘侧,赶紧补一补Windows AI生态、DirectML、TensorRT-LLM的本地部署,以及本地知识库的构建。这一波不是边缘计算被PC替代,而是PC变成了最强的边缘节点。
发布于 广东
分享
评论
1
未登录
友善发言
image-upload
评论
加载中