CUDA算子开发工程师(J10697)

职位描述

1.负责CUDA算子的开发适配和性能调优,支持复杂模型在服务器端的训练与推理

2.主导解决定制化算子在训练框架、AI编译工具和部署应用中的问问题,确保算子在GPU、CPU及端侧异构计算平台上的高效计算和稳定兼容

3.跟踪算子领域新技术,根据AI模型发展趋势和硬件特性持续丰富算子库、提升算子性能

4.负责高性能算子的开发与优化,包括CPU、DSP、RVV等异构硬件,优化算子的性能,确保在不同硬件平台上的高效计算,包括但不限于FP32、FP16、FP8、INT16、INT8、INT4等数据类型

任职要求

基本要求

1.具备丰富的GPU程序开发经验,熟悉CUDA、OpenCL,熟悉GPU加速库,包括并不限于cuBLAS/cuDNN/cutlass

2.熟悉各类深度学习网络和算子底层实现细节,有模型训练、推理调试调优经验

3.具备良好的工程实现能力,熟悉Python、PyTorch与C/C++编程开发发

4.主动学习、良好的沟通能力和团队合作精神

加分项

1.有LLM开发部署经验,熟悉分布式训练、推理加速方法

2.了解AI编译原理、模型量化原理

3.从事过AI软件相关开发,包括AI编译器、AI算子库、AI推理/||练框架开发等

4.熟悉计算机算法与设计模式,有过ACM或其他编程竞赛经历