ai-infra基础架构-实习生

职位描述

核心职责

1. 参与核心研发,负责推理引擎与深度学习训练和推理框架的设计、研发及迭代,支撑AI算法高效落地与规模化

应用。

2. 主导算子优化(融合/自定义开发)、模型量化/剪枝等技术落地,攻克部署性能瓶颈;完成推理框架在

NPU/GPU/CPU多平台的适配,保障跨平台稳定性与高效性。

3. 跟踪前沿技术,持续优化推理引擎的性能、内存占用及易用性,推动技术架构升级。

任职要求

职位要求

任职要求

1. 精通计算机体系结构、编译原理等知识;熟练掌握C++/Pythorn,能编写高性能代码。

2. 深入理解CUDA编程;熟练运用MNN/RKNN/TensorRT等推理框架;熟悉TensorFlow/PyTorch/ONNX底层原理及

模型转换。

3. 具备Megatron、DeepSpeed、vLLM或SgLang开发经验。

4. 有算子开发优化实战经验,可独立实现高性能算子;掌握模型性能分析工具,具备量化、剪枝等技术落地能

力。

加分项

熟悉CNN/Transformer等模型结构与推理特性。

有AI算法在边缘端NPU/云端大模型的工业级部署经验。

有相关开源项目贡献。