键盘敲碎了雾霾
07-10·后端开发·5年+
中科曙光国产万卡能救活小团队吗?
中科曙光国产万卡能救活小团队吗?
随着曙光ScaleX国产万卡智算集群大规模落地运营,国产算力池终于规模化对外开放,聊聊对小型AI创业团队的实际影响。万卡集群依靠浸没液冷、自研高速网络,把单Token训练推理成本大幅下降70%左右,适配绝大多数主流开源大模型,解决过去小团队拿不到卡、租卡贵、排队久的痛点。利好很实在:1. 初创团队不用重金采购英伟达高端卡,按需租用国产算力,大幅压低模型微调、小规模训练成本;2. 国产集群贴合国内合规、数据安全要求,本地部署、行业定制门槛更低;但很难直接“救活”团队:算力只是底座,模型算法、落地场景、客户资源才是核心壁垒,万卡解决的是成本问题,解决不了商业模式问题。更适合深耕行业微调、垂直场景应用的小团队,纯通用大模型创业依旧压力巨大。有没有在用国产算力集群做微调的创业者,实际成本对比海外云差多少?
发布于 湖南
分享
5
未登录
友善发言
image-upload
评论
加载中