中交信科集团AI芯片适配工程师(J45811)

职位描述

1)负责主流AI模型在GPU/NPU硬件平台上的适配工作，涵盖模型迁移，环境配置，功能验证以及性能优化确保模型在目标硬件上正常运行；

2)针对模型迁移、量化、剪枝等过程中出现的精度损失问题，通过误差分析、参数 微调、损失函数优化等手段，确保模型精度对齐；

3)参与大模型分布式训练集群的模型调优，解决分布式场景下的模型计算/通信瓶颈，提升模型训推性能；

4)沉淀模型适配方法论，总结精度对齐、性能优化的通用流程，开发自动化适配工具，支撑团队高效开展适配工作；

任职要求

1、本科及以上学历，5年以上相关工作经验 。具有相关行业、业务领域3年以上从业经历。熟悉至少一种AI芯片的算子开发优化过程，具备开发 FlashAttention、LayerNorm 等融合算子的能力

2、熟悉至少一种AI芯片的体系架构和软件栈，熟悉使用性能分析工具与调试工具进行代码调优

3、熟练掌握 Python和C++ 编程。

4、熟悉 PyTorch 深度学习框架，了解大模型推理加速相关的方法与原理。

5、有AI框架和AI编译器研发经验的有加分。

专业技能或能力：

1、计算机、人工智能等专业

2、具有模型训练、推理调优经验，具有集群部署经验

3、熟悉GPU或国产AI加速卡

4、熟练使用Linux系统，熟悉Shell/Python/C++

5、熟悉PyTorch或PaddlePaddle框架

6、熟悉vLLM、SGLang或TensorRT等至少一种推理引擎

7、熟悉主流大模型、CV类小模型

8、具有较强的文档编写和总结分析能力