邓云芬
07-20 · 职范人才CEO&猎头专家
大模型训练/推理框架工程师 #022
工作地点:北京/杭州【工作职责】1、建设分布式训练推理系统,包括模型并行、长上下文、MoE、低精度训推等。2、建设 RL 训练系统,包括异步 RL、Agent RL、OPD 等。3、建设多模态训练系统,包括模型结构搭建、性能显存优化、数据读取加速等。4、设计和开发大规模推理服务的 KV Cache 磁盘缓存、负载均衡等策略。5、与算法团队协作,支持新模型、新算法快速落地。【岗位要求】1、基础扎实,学习能力强,愿意深入复杂系统和底层细节。2、代码能力强,代码品味好,擅长与 Code Agent 合作。3、对大模型训练、推理、RL、多模态系统优化有强烈兴趣。4、熟悉 Python / C++ / Rust 之一,了解 PyTorch
发布于 北京
分享
评论
1
未登录
友善发言
image-upload
评论
加载中