模型推理优化工程师(J11171)

职位描述

1. 负责PTQ/QAT等模型量化工具链的开发，支持 INT4/INT8/FP16/W8A16 等多种精度组合的量化方案落地。

2. 开发和维护模型精度分析工具链。

3. 参与模型在 NPU 硬件上的部署适配。

4. 参与自研 AI 编译器（NPU 芯片）的功能开发和性能优化，包括量化、图优化等功能的开发和维护。

5. 支持大语言模型（LLM）和视觉模型在 NPU 上的量化部署与精度调优。

任职要求

1. 硕士及以上学历，计算机/数学/电子等相关专业。

2. 熟练掌握 Python 和 C/C++ 编程语言，具备良好的工程能力。

3. 熟悉深度学习基础知识和常见网络结构。

4. 熟悉 ONNX 模型格式和模型处理工具链。具备模型量化（PTQ/QAT）相关经验，理解常见的量化算法。

5. 熟悉至少一种深度学习框架，有模型训练或推理优化经验。