大模型工程师(J16753)

职位描述

1、基于公司战略和经营目标，提供龙旗软件大模型自动化工具架构平台 :

基于公司战略和经营目标，对软件自动化提出持续迭代的能力输出.

与客户，内外部资源进行主动积极的沟通交流，协助BU软件进行解决方案推广

2、负责 预训练大模型的工程化落地，探索业界领先的大模型框架；

3、负责超大模型的部署、调优，确保模型在各种软硬件架构上的功能、性能、稳定性；

4、深入探索针对大模型的训练&推理加速，具备对标业界领先水准的加速能力。

任职要求

1、计算机相关专业背景；具备3年以上模型工程的经验，特别是训练 & 推理加速的经验；

2、具备超大规模模型的研发经验了解数据并行、流水线并行、Tensor并行的训练方法，有多机多卡并行的大规模联合训练经验

3、有大规模机器学习平台的架构设计经验，对平台高性能、高可用有着深入的研究；

4、对 Tensorflow & Pytorch 等开源模型框架有深入的研究和实践经验。有开源模型框架优化经验的优先

5、熟悉Megatron、DeepSpeed、ColossalAI、OneFlow 等开源框架或系统优先；参与过10B参数以上的大模型的训练优先

6、大学本科学历（含同等学历）：软件，信息工程等理工科相关专业背景优先

有agent和rag开发能力