端侧模型部署工程师

职位描述

1、负责深度学习模型的部署与优化，确保模型在目标硬件平台上的高效运行；

2、参与模型压缩、量化、剪枝等优化技术的研究与实现，提升模型在边缘设备上的推理效率；

3、与算法团队协作，将训练完成的模型封装为可部署的推理服务，支持多平台适配；

4、负责模型部署后的性能监控与调优，确保模型在不同硬件平台上的稳定性与一致性；

5、编写自动化部署脚本与测试用例，提升部署效率与自动化水平；

6、跟踪前沿技术，探索模型部署在边缘计算、嵌入式系统等场景下的应用潜力；

7、参与CUDA生态的底层算子开发与优化，提升模型在GPU平台上的推理性能；

8、与硬件团队协作，优化模型在异构计算平台（如GPU、NPU、DSP）上的部署方案；

任职要求

1、熟练掌握Python/C++编程语言，熟悉深度学习框架（如PyTorch、TensorFlow、ONNX等）；

2、熟悉模型部署流程，包括模型导出、转换、优化、打包等；

3、熟悉模型压缩与优化技术，如量化、剪枝、蒸馏等；

4、熟悉主流推理引擎（如TensorRT、OpenVINO、ONNX Runtime等），具备推理加速经验者优先；

5、熟悉Linux系统开发与调试，具备脚本编写能力；

6、熟悉自动驾驶系统架构，了解模型在感知、决策、控制等模块中的应用；

7、熟悉CUDA生态，具备CUDA算子开发或优化经验者优先；

8、了解异构计算平台（如GPU、NPU、DSP）的部署与优化，有相关经验者优先；

9、熟悉典型自动驾驶/多模态模型结构，包括感知、决策、控制等模块的集成与部署。