大模型分布式训练/推理框架开发工程师
岗位信息
| 招聘单位 | 思朗科技 |
|---|---|
| 工作地点 | 北京、上海 |
| 官方更新时间 | 2024-06-14 09:30:21 |
职位描述
职位描述
1. 基于自研芯片, 开发与定制化混合并行、高性能AI大模型训练/推理框架
2. 调研最新技术和大模型训练/推理框架,实现超大规模分布式策略,持续提升框架的性能
3. 协同上下游团队分析并解决模型中遇到的大模型分布式训练/推理的精度、性能问题
任职要求
任职资格:
1. 计算机、电子、数学及相关专业,3年以上相关工作经验;
2. 熟悉NLP、CV相关的算法和技术,熟悉大模型训练/推理各种分布式策略
3. 熟悉Deepspeed/Megatron/Colossal-ai/FSDP/Horovod等任意一种框架优先
4. 具备分布式训练或HPC基础知识,了解集合通信和CUDA编程优先
5. 有机器学习平台开发和深度学习框架开发等领域开发经验
6. 有Nsight System、DLProf等工具使用经验
提示:投递请认准招聘单位官方招聘官网,谨防中介收费。