大模型系统专家（智算）

职位描述

1、推动大模型的场景优化落地工作。

2、优化模型结构，以适应并充分利用硬件资源，如 CPU、GPU、NPU 等。

3、负责模型适配中的优化与模型并行优化加速技术研发。

4、负责大模型在不同硬件的算子优化、异步并发、IO优化等提升推理性能。

5、负责研究和实验新的分布式计算技术，完成高性能计算框架的设计研发与优化。

任职要求

1、人工智能、计算机、自动化、控制等相关专业硕士以上学历，博士优先；

2、深入理解Tensorflow/PyTorch等主流框架的架构设计及优化技术，熟悉模型压缩技术，如剪枝、量化、知识蒸馏等；

3、熟悉C/C++编程，熟悉常用数据结构和算法，熟悉linux下常用工具；

4、熟悉vLLM、sglang等大模型推理框架，熟悉 GPU 和其他加速硬件的使用，有相关的性能调优经验，如FastTransformer、TensorRT、triton等；

5、对技术有热爱和追求，乐于创新。