泰山弟子_dmnY
08-14·AI领域创作者
Qwen3.8Max开源,如何更好本地化?
Qwen3.8-Max
2.4T总参别硬刚,消费卡跑不动。务实做法是拉Qwen3.8-27B的Int4量化版(16G显存可跑),前端套vLLM暴露OpenAI兼容API,旧系统改个base_url就接上,比全量部署聪明十倍。
发布于 广东
分享
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn