广告架构高级工程师-Applied AI

职位描述

1、负责100+B参数模型，1M序列长度的大规模分布式训练（DDP、F SDP、TP、SP、PP）和推理支持（RPC框架、vLLM、TRT）；

2、与算法部门深度合作，进行算法与系统的联合优化；

3、负责机器学习效率优化，包括但不限于：量化、剪枝、压缩、蒸馏、特征选择、NAS、编译优化；

4、负责特殊机器学习范式的支持，例如强化学习、联邦学习、图学习、优化器等。

任职要求

1、获得本科及以上学历，计算机、软件工程等相关专业优先；

2、熟练掌握Linux环境下的C/C++与Python语言，有良好的编程习惯及Coding能力；

3、接触过至少一种机器学习框架（TensorFlow/PyTorch/Jax或其他自研框架）优先；

4、有以下至少一项的背景知识与经验的优先：GPU编程，编译器，大模型训练推理框架；

5、具有独立解决问题的能力，良好的团队合作精神；

6、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力；有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。