机器学习系统研发工程师-Ads Infra

职位描述

1、针对广告/推荐/搜索等场景，优化模型训练/推理的计算图执行效率；

2、通过编译优化、模型并行优化、图融合、高性能算子开发、低精度计算、Memory复用、Cache优化、高并发服务请求优化等技术，打造业界领先的高性能训推引擎；

3、设计和开发高性能算子库，研究最新的GPU计算技术和优化方法，以充分利用GPU/NPU的并行计算能力，支持各种机器学习和深度学习模型的构建和部署；

4、负责机器学习系统前瞻技术的调研和引入，例如最新硬件架构、异构计算系统、GPU优化技术、编译优化技术的引入和落地。

任职要求

1、本科及以上学历，计算机等相关专业，具备扎实的计算机基础；

2、熟悉Linux操作系统和开发环境，熟练掌握C/C++/Python等一种或多种编程语言并深入了解语言特性，具备良好的数据结构、算法基础和系统设计能力；

3、拥有强烈的求知欲、优秀的学习和沟通能力；

4、熟悉至少一种机器学习框架（PyTorch/TensorFlow/PaddlePaddle或其他自研框架），熟练掌握分布式系统原理，参与过分布式系统的设计、开发和维护。

加分项：

1、熟悉主流高性能并行编程技术，有GPU编程经验（CUDA或Triton）；

2、有TensorRT/CUTLASS开发经验，熟悉TRT-LLM、vLLM等推理框架；

3、熟悉开源ML编译器代码（XLA/MLIR/TVM）并有相关开发经验；

4、熟悉PyTorch、FSDP、DeepSpeed、Megatron等业界主流分布框架的使用和原理。