大模型应用架构工程师 - 火山方舟

职位描述

团队介绍：火山方舟是火山引擎推出的一站式大模型服务平台，是中国大模型市场产品和份额领跑者。平台提供模型推理、评测、精调等全流程服务。方舟搭载了豆包及业界主流大模型，提供丰富的插件生态和AI应用开发服务，并通过稳定可靠的安全互信方案、专业的算法技术服务，全方位保障企业级AI应用落地。

1、负责LLM推理在To B、To C多种业务场景落地，结合业务特点，提供延时和成本最佳的方案，帮助业务快速增长；

2、参与方舟大模型训练、推理服务的推理性能和稳定性优化工作，不断提高系统吞吐和健壮性；

3、参与优化方舟在全球架构、异构硬件适配等方面带来的挑战，保证算力高效利用。

任职要求

1、熟练掌握C++，Python，Rust等一门或多门编程语言，编程风格良好，有框架设计和抽象能力；

2、对分布式系统/异构推理有浓厚兴趣，乐于解决问题，擅长用工程化、自动化的方式优化效率问题；

3、有一定的在线业务稳定性、成本治理优化经验；

4、具备良好的团队协作与沟通能力，有较强的责任心。