AI Infra工程师-Commercial AI

职位描述

1、负责LLM/VLM/AIGC大规模分布式训练与推理基础设施的研发，深度优化计算、通信与存储性能，保障（多至）千卡任务集群的高效运行；

2、针对NVIDIA GPU（CUDA/Triton）、NPU进行深度性能调优，包括算子融合、显存管理优化、通信算子重叠（Overlap）等，将硬件算力发挥到极致；

3、设计并实现高性能LLM/VLM/AIGC模型推理引擎，优化计算图编译、动态Batching及KV Cache管理，打造极致低延迟与高吞吐的线上服务架构；

4、技术演进与落地：持续跟进业界最新的Infra技术（如FlashAttention演进、高效通信库、FP8/INT8量化、稀疏蒸馏等训练部署方案），配合实际业务驱动技术预研并转化为生产力。

任职要求

1、本科及以上学历，计算机相关专业优先，熟练掌握C++/Python，精通数据结构与算法，并有并发编程基础；

2、熟练使用PyTorch/TensorFlow或其他深度学习框架，熟练掌握深度学习性能加速技术包括但不限于计算图优化，算子性能优化，通信优化等；

3、具有AIGC（VLM、Diffusion）模型训练/推理优化经验，熟悉TensorRT-LLM、vLLM、LightX2V等推理效率优化工具；

4、积极主动有热情，具备较强的沟通能力以及优秀的团队协作能力。