大模型应用架构工程师 - Seed Model

职位描述

团队介绍：字节跳动 Seed 团队成立于 2023 年，致力于寻找通用智能的新方法，追求智能上限，为科技和社会发展作出贡献。

Seed 团队在 AI 领域拥有长期愿景与决心，团队研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国等地设有实验室和岗位。目前，团队已推出业界领先的通用大模型以及前沿的多模态能力，支持豆包、即梦、TRAE 等超过 50 个应用场景，并通过火山引擎开放给企业客户。第三方数据显示，豆包 App 用户量在中国市场排名第一，豆包大模型日均 Token 调用量行业领先。

1、负责LLM在To C应用落地，提供多Tool（联网、文件识别、代码沙盒等）与多模型的动态编排能力，不断优化架构可扩展性，帮助豆包、猫箱等业务不断快速增长；

2、与不同LLM算法同学紧密协作，探索复杂服务能力，如WebGPT、Function Call、Agents、AssistantAPI、图像/语音多模态等，追进前沿的研究成果；

3、设计并实施全流式通信的LLM应用架构，与国内最大规模的LLM高性能推理服务联动实现端到端最佳的性能和资源能效，不断提升高并发高吞吐在线系统的健壮性。

任职要求

1、熟练掌握Linux环境下的C/C++、Python、Java、Go中的1~2门，扎实的编程能力，优秀的设计和代码能力；

2、对在线架构有丰富的经验和广阔的视野，有对话系统、搜广推推荐系统、机器学习系统经验优先；

3、具有独立解决问题的能力，良好的团队合作精神，具备优秀的复杂问题拆解能力；

4、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力。

加分项：

1、熟悉机器学习、MLSYS基础知识，了解LLM架构原理，有模型能力在业务落地经验；

2、ACM/ICPC、NOI/IOI、Top Coder等比赛获奖；

3、分布式系统设计优化经验。