坏坏的托比里
08-08·项目管理·5年+
国产旗舰模型扎堆,哪款最具性价比?
最近各家国产旗舰模型扎堆出,我们运维这边也被拉着测试。说实话,有些模型跑推理任务资源占用离谱,服务器风扇直接起飞,性价比还不如我们自己调参的轻量化方案。尤其运维场景下,稳定性和响应速度才是硬道理,光看跑分没用。你们要真想搞,建议先小范围试水,别一上来就全量上,否则踩坑了还得我们运维来擦屁股。
发布于 广东
分享
评论
4
未登录
友善发言
image-upload
评论
加载中