端侧大模型部署工程师(J11401)

职位描述

1、参与大模型在端侧硬件平台（NPU/GPU）上的端到端部署工作

2、 负责大模型部署套件的技术架构设计与功能实现

3、参与项目交付，达成量产项目中产品定义的相关性能指标

4、与算法团队紧密合作，从性能/精度/部署成本等维度为算法团队提供输入和指标要求

任职要求

1、硕士3年以上工作经验，含1年以上模型部署开发经验

2、熟练掌握C++/Python等编程语言，扎实的数据结构与算法能力

3、熟悉模型量化基础知识以及主流的大模型量化算法，有量化精度调试经验者优先

4、熟悉transformer模型结构以及自回归推理过程，能熟练应用模型等价变换

5、具备大模型部署优化经验，如KV cache优化，预测解码技术

6、 熟悉高通cDSP/HVX/HMX硬件单元，熟悉QNN SDK/API，并有相关开发经验者优先

7、具备优秀的分析问题与解决问题能力，良好的团队协作和沟通能力