黄仁勋：PC产业将迎来40年来最大升级
上个月拿到了一台RTX Spark工程机，用了两周，说说程序员的真实体验。最大的变化是本地AI开发效率。以前跑一个本地大模型推理，需要外接GPU服务器或者调用云端API。现在直接在笔记本上就能跑，1Petaflop的FP4算力，跑7B参数的模型完全没问题，响应速度跟云端差不多。我试了用本地Agent做代码审查——把整个项目的代码库喂给本地AI，让它自动找Bug、提优化建议。整个过程数据不出本机，对于处理公司代码来说，安全性拉满。另一个惊喜是统一内存架构。128GB统一内存意味着CPU和GPU共享同一块内存，不用来回拷贝数据。做机器学习训练的时候，数据加载速度比以前快了好几倍。但也有一些问题：Arm架构跑x86的旧项目会有兼容性问题，我有个老项目的Docker镜像跑不起来，需要重新适配。开发工具链也还在完善中，很多IDE的AI插件还没针对RTX Spark做优化。总结：如果你是做AI应用开发、端侧推理、本地Agent的程序员，AI PC是生产力神器，建议入手。如果你还在做传统Web开发，暂时不急，等生态更成熟再说。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
