推理后台开发工程师

职位描述

1. 负责深度学习推理后台系统设计、开发与迭代，保障系统高可用、高性能，支撑推理服务落地；

2. 负责推理框架、算子研发与性能调优，推进模型量化、压缩等部署优化；

3. 探索GPU硬件加速技术，对接业务协同解决推理开发、部署中的技术难题。

任职要求

任职资格

1. 精通C/C++、Go，扎实掌握数据结构与算法，具备良好编码规范；

2. 具备计算机体系结构基础，熟悉ARM NEON指令、GPU优化，有CUDA并行加速开发经验者优先；

3. 了解深度学习原理，熟悉TensorRT、ncnn等推理引擎，具备算子实现与优化能力；

4. 精通模型量化、压缩等部署优化技术，有推理优化落地经验者优先；

5. 具备良好沟通协作能力、责任心，能承担工作压力，主动解决技术问题。

加分项

1. 有深度学习训练加速、多机多卡训练及训练框架优化经验；

2. 有大规模推理集群部署、运维及调优，或开源推理框架开发贡献经验。