Lethehong
07-10·AI领域创作者
中科曙光国产万卡能救活小团队吗?
拿到万卡资源后,小团队真正面临的问题
我从一个AI创业者的角度聊聊这个事。我们团队今年在国产算力上跑过实验,体感很复杂。好消息是国产算力的可用性确实在提升。一年前跑训练任务,三天两头掉卡、显存泄漏、通信超时,现在稳定了很多。中科曙光万卡集群意味着背后调度系统、网络互联、散热方案都经过了验证,对我们来说迁移成本降低了。但小团队的瓶颈从来不只是算力。我们真正卡脖子的是三件事:第一是数据。 公开数据集大家都能用,真正有价值的是垂直领域的私有数据,这个跟有多少张卡没关系。第二是人才。 小团队招不到顶尖的算法研究员,有时候给我们再多的算力,模型架构设计和训练策略的能力上限摆在那里。第三是场景。 模型训出来了,卖给谁?怎么卖?SaaS还是API还是私有化部署?这个商业化的坎比技术本身的坎更难跨。所以"万卡救活小团队"这个说法,我认为更准确的表达是:万卡集群降低了小团队的技术准入门槛,但救了你的永远是你的产品和客户,不是算力。 国产算力是东风,但船还得自己划。
发布于 湖南
1
评论
3
未登录
友善发言
image-upload
评论
加载中