AI研究院-大模型推理工程师

职位描述

岗位职责：

1、负责大模型推理&训练相关工具生态建设及持续优化，包括大模型训推框架，服务自动化等。

2、负责大模型推理引擎性能深度优化，结合实际业务场景，优化推理策略、调度逻辑，支撑线上业务高并发与低延时需求。

3、负责持续探索业内大模型最佳工程落地实践，引进最新AI coding工具，沉淀全链路skill，持续改进大模型研发落地效能

任职要求

任职要求

1、深入理解主流大模型的架构原理与实现细节，熟悉大模型训练或推理全流程。

2、两年以上大模型研发落地从业经验，有大模型训练或推理框架研发经验者优先

3、具备扎实的工程实现与问题分析能力。

4、具备技术热情，有 AICoding 工具的实际使用与实践经验，善于技术成果转化分享。

5、有大模型量化、推理加速、服务部署等实际经验者优先。