雪咤
07-03·全栈工程师·5年+
黄仁勋:PC产业将迎来40年来最大升级
端侧AI爆发边缘计算人吃香吗
RTX Spark本质上是在把原本属于数据中心的AI算力塞进个人电脑,这对做边缘计算的同学来说是个好消息,也是个挑战。好消息是端侧AI终于被主流硬件厂商严肃对待了,市场需求会从试点变成规模化部署。挑战是边缘计算的定义在变化,以前边缘可能是摄像头、工控机、网关,现在可能是一台带128GB统一内存的AI PC。我认识的几个做边缘AI inference的朋友,最近已经在面试里被问到能不能在Windows PC上部署和优化模型。我的建议是如果你本来就在做边缘侧,赶紧补一补Windows AI生态、DirectML、TensorRT-LLM的本地部署,以及本地知识库的构建。这一波不是边缘计算被PC替代,而是PC变成了最强的边缘节点。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn