硬件加速模型编译优化工程师-Data

职位描述

1、负责大模型等业务模型在自研芯片进行适配性和性能评估、软硬件协同优化工作；

2、负责AI模型整图或者算子编译框架优化，实现较高硬件利用率和整体性能，提升编译框架的通用性与优化能力；

3、构建分布式推理系统，推理框架极致调优，实现较优的在线部署吞吐和高性价比；

4、模型量化、稀疏、蒸馏等推理部署的探索和落地方案。

任职要求

1、深入理解AI加速硬件的体系结构和并行计算；

2、熟悉深度学习框架和软件栈，熟练使用C/C++、Python等编程语言；

3、熟悉ONNX/TensorFlow/PyTorch等主流深度学习框架；

4、有主动学习、问题分析与解决能力和较强自驱力；具备良好的跨团队协作能力。

以下为加分项：

1、熟悉编译器和代码优化技术，有MLIR、TVM等相关开发经验；

2、熟悉GPU或者主流AI芯片架构，有相关算子优化、图编译优化经验、硬件评测经验；

3、对LLM或多模态领域模型有深刻理解，例如Qwen、Deepseek等；

4、有AI加速硬件的量化工具开发经验；

5、熟悉AI服务器和集群架构，熟悉芯片和集群互联相关技术，有实践开发经验；

6、有vLLM、SGLang等推理框架开发和调优经验，有部署实践相关经验。