我不焦绿
07-17·后端开发·5年+
中科曙光国产万卡能救活小团队吗?
团队做垂直行业大模型,之前卡在外购算力涨价,试了曙光万卡共享算力节点聊下真实感受。现金流层面确实救命,不用自筹资金搭建私有集群,按需申领万卡并行算力,千亿模型微调从三十天压缩到一周,交付周期缩短能快速接客户订单,硬件采购、机房运维的大额固定支出直接砍掉。全栈国产化硬件,金融、政务客户过等保、信创招投标完全无障碍,数据不用出境。生态短板绕不开,大量海外开源框架、小众算法库适配差,多轮调试会额外消耗算力时长拉高账单;如果团队核心业务是海外多模态、超大MoE模型,并行效率对比海外高端卡还有差距。深耕国内ToB垂直行业的小团队能靠它续命,做通用海外大模型研发的初创公司,单靠国产万卡算力够用吗?
发布于 湖北
分享
评论
3
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn