资深游戏AI Infra工程师-【游戏事业部】

职位描述

1.负责AI平台架构设计和AI工程化技术实现；

2.通过AI基础设施和软硬件协同优化来提升公司AI模型训练和推理的效率；

3. 负责云侧或端侧大模型和小模型推理服务开发、性能优化、上线部署等工作。

任职要求

1.5年以上相关开发经验，熟悉Go/C++/Python/Java等至少两门语言；

2.有TensorFlow、Pytorch使用或者优化经验，有机器学习平台开发经验优先；

3.了解GPU、CUDA、神经网络、RAG等技术，有大模型工程优化经验优先；

4.对AI底层硬软件基础设施，AI工程化和大模型推理优化感兴趣；

5. 了解transformer的结构，了解模型训练、微调和推理的过程和原理；

6. 有以下一项或多项技术能力者优先：

1) 有GPU、NPU、ARM、或其他AI芯片等平台上AI落地实践经验；

2）熟悉并行计算和分布式计算技术，有 MPI、OpenMP、CUDA 等编程经验，或有PTX、汇编优化方法；

3) 熟悉模型训练框架如Deepspeed、Megatron，pytorch等；

4) 熟悉TensorRT-LLM、vLLM、sglang等任一推理框架，有实际操作经验；

5) 熟悉多层次的软件优化经验，如模型剪枝/量化/压缩、分布式优化（PD分离）、存储优化、kv-cache优化、动态Batching、IO优化、算子/指令集优化等。