大模型推理调度编排专家 - Seed Model

职位描述

团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。

Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50 个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包 App 用户量在中国市场排名第一，豆包大模型日均 Token 调用量行业领先。

1、负责海量大模型异构资源的调度编排、算力池化、弹性资源混布、潮汐资源拆借和Quota管理；

2、负责大模型推理服务的多角色、多阶段、PD分图/EP调度，KVCache centric调度，实现动态、及时、准确的扩缩容管理；

3、负责通过技术手段实现计算资源、RDMA高速网络资源、缓存/存储资源的最优编排，充分发挥大规模分布式集群算力；

4、负责大模型服务的稳定性，通过线上和线下的多系统联动，实现在多种异构资源（GPU、CPU、其他异构硬件）、多云环境、多种网络流量场景的问题定位、诊断、隔离和快速恢复；

5、负责多机房、多地域、多云场景的在离线任务/服务调度，实现负载的合理化分布。

任职要求

1、熟练掌握Linux环境下的C++/Go/Python/Shell等1至2种以上语言；

2、熟悉Kubernetes架构和生态，熟悉Docker/Containerd/Kata/Podman等容器技术，有丰富的机器学习系统实践和开发经验；

3、掌握分布式系统原理，参与过分布式系统的设计、开发和维护；

4、有优秀的逻辑分析能力，能够对业务逻辑进行合理的抽象和拆分；

5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动；

6、有良好的工作文档习惯，及时按要求撰写更新工作流程及技术文档。

加分项：

1、熟悉至少一种主流的机器学习框架/推理引擎（例如vLLM/SGLang/PyTorch）；

2、有大模型资源调度/服务编排的落地经验；

3、熟悉了解GPU系统/体系结构；

4、在计算机系统顶会（包括但不限于OSDI/NSDI/SOSP/FAST/Eurosys）上有文章发表经验。