在巴西攀岩的唐纳德
08-14·AI领域创作者
Qwen3.8Max开源,如何更好本地化?
Qwen3.8-Max
Qwen3.8Max咋落地?阿里这次真把2.4T参数的Qwen3.8Max开源了,我同事一看权重有4.9TB,直接傻眼了。后来他学聪明了,直接上4-bit量化版,显存占用压到四分之一,单卡也能跑。你们本地部署大模型,都是怎么解决显存问题的
发布于 陕西
分享
1
4
未登录
友善发言
image-upload
评论
加载中