大模型Infra工程师 (具身)

职位描述

1、深度参与生数多模态和视频生成大模型的基础设施建设；

2、负责大规模集群中训练/推理的性能优化，整体系统稳定性、易用性、可运维能力和可观测能力的建设；

3、与算法、工程、产品团队深度协作，针对业务场景进行联合优化。

任职要求

1、扎实的深度学习理论基础，深入理解各类深度学习模型结构及其训练推理特性，对性能优化有敏锐直觉，对精度对齐有sense，具备大模型infra系统级优化能力；

2、熟练Python/C++编程，既能够从微观层面编写高效kernel，又可从系统层面设计框架架构，具备出色的工程实践能力和代码质量把控能力；

3、熟悉pytorch源码, 分布式基本特性

4、熟悉Triton, Tilelang, cutlass等GPU算子编程框架；

5、熟悉nvidia最新GPU特性(tma, cluster cta, tcgen05)；

6、熟练使用agent, 从第一性原理出发解决问题；

7、有代码洁癖者优先。