熟悉多模态模型、扩散模型、流匹配模型的结构，及基础模型加速的方法，如量化、剪枝、蒸馏；熟悉大模型训练加速方法，如MoE、flash-attention、数据/tensor/sequence并行；熟悉DeepSpeed, Megatron，FSDP等框架；熟悉大模型推理加速方法，如投机采样，流式推理，连续批处理等；熟悉diffusion和flow matching模型加速方法，如LCM、一致性模型、ODE求解器、Time-step distillation等；
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
