大模型推理优化工程师-PICO

职位描述

1、负责大模型训练和推理系统的研发与性能优化；

2、负责异构硬件的引入与训练推理框架的集成，包括但不限于GPU、NPU、TPU等；

3、与算法部门深度合作，进行算法与系统的联合优化。

任职要求

1、熟练掌握Linux环境下的C/C++与Python语言；

2、熟悉至少一种机器学习框架（TensorFlow/PyTorch/MxNet或其他自研框架）；

3、熟悉至少一种大模型训练/推理框架，包括但不限于：vLLM、TensorRT-LLM、SGLang、Megatron-LM等；

4、具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力；

5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。