广告大模型训练/推理优化研发工程师-Data

职位描述

1、深度学习引擎优化，参与训练和推理引擎的深度优化，包括编译优化、图融合技术、并行计算策略、低精度计算等；

2、高性能算子与框架研发，负责自研高性能算子库建设，进行异构硬件适配，利用SIMD、CUDA等技术实现算子的并行加速；

3、长序列的大规模分布式训练（DDP、FSDP、TP、SP、PP）和推理支持（RPC框架、vLLM、SGLang、TRT）；

4、前沿技术调研与落地，探索下一代硬件架构、异构计算方案，将前沿技术转化为生产力。

任职要求

1、至少精通一门编程语言（如C、C++、Python），具备优秀的编码习惯并注重代码质量；

2、扎实的计算机科学基础，深入理解数据结构与算法、操作系统、计算机体系结构、高性能编程等核心知识；

3、了解PyTorch等深度学习框架，有FSDP，DeepSpeed等分布式训练经验；

4、熟悉vLLM、SGLang等推理框架；

5、具备高性能编程经验，熟悉Triton、CUDA、AscendC、BangC、DCU等编程。