推荐大模型系统研发工程师 - Data AML

职位描述

团队介绍：Data AML是字节跳动的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。

1、激进扩大推荐模型的行为序列长度、参数规模和训练规模，验证推荐领域的Scaling Law；

2、在亿级用户产生的数据上，构建推荐专用生成式模型的训练系统和推理系统；构建ND-Parallel并行库，支持超大规模的并行训练，优化训练效率，提升万卡集群的训练稳定性；研究业界领先的高性能计算技术、分布式计算技术和深度学习技术，不断提升上述系统的规模和性能的上限；

3、构建跨业务、跨端的推荐基座大模型，通过蒸馏的方式，赋能多个业务的下游模型；

4、引入文本、图片、视频等多模态信号，增强推荐模型的信息输入，与协同信号联合训练；

5、构建LLM的CPT/SFT/RL系统，与推荐模型深度融合、联合训练，推进LLM4Rec的落地。

任职要求

1、计算机、软件工程、人工智能等相关专业本科学历、硕士学位或博士学位，具有扎实的数据结构、算法和计算机体系结构基础；

2、熟练掌握C++/Python/CUDA/Triton中至少一种语言，具备优秀的编程习惯和系统设计能力，能够编写高性能、可扩展的代码；

3、深入理解TensorFlow、PyTorch、JAX等主流深度学习框架底层原理，有算子开发、性能调优或分布式训练实战经验；

4、熟悉分布式系统的设计与开发，了解常用的并行策略（数据并行、模型并行、专家并行、序列并行、流水线并行等）和并行库（DeepSpeed，Megatron等）；

5、了解经典的搜广推算法（如DeepFM，DLRM，DIN等），了解主流的LLM技术（如Transformer，BERT，MoE，CLIP等）；

6、对挑战性问题（如超长序列建模、万卡规模稳定性）有强烈的探索欲望，具备优秀的逻辑思维能力、独立解决问题的能力，以及团队合作精神。

加分项

1、大模型实战：具有100B+规模大模型的预训练、微调或强化学习经验，深度优化过分布式训练系统的性能；

2、多模态经验：具有多模态表征学习经验（如CLIP，BLIP，VLM），能够将视觉/文本特征有效融入推荐系统；

3、底层优化：熟悉GPU架构，具备CUDA/Triton/Pallas编程经验，深入研究NCCL、RDMA和网络通信优化；

4、框架剖析：深入研究过一种机器学习框架（TensorFlow/PyTorch/JAX或其他自研框架）的代码和设计。