训推平台研发工程师

职位描述

1.参与深度学习推理框架的集成、部署与性能优化，提升模型在目标硬件上的推理效率；

2.协助完成新硬件适配，参与算子优化、性能测试与问题排查；

3.对推理服务进行性能剖析与调优，实施已有的优化方案；

4.编写高质量代码与文档，参与模块开发与维护；

5.支持推理服务在云平台的部粤与监控，协助运维工作。

任职要求

1.熟练使用C++/Python/go,了解计算机体系结构与操作系统基础知识；

2.熟悉常见推理框架(如vLLM、SGlang等)的使用与配置，了解其优化原理；

3.熟悉PyTorch及Hugging Face模型库，具备模型导出与部署经验；

4.具备基础性能调优经验，了解算子融合、量化等常见优化方法；

5.了解容器化(Docker/Kubernetes)部署流程者优先；

6.具备良好的问题定位与团队协作能力。