大模型中台服务后台工程师

职位描述

1. 大模型接入平台建设

负责构建和维护企业级大模型接入平台，支持内部业务系统快速接入

集成主流外部大模型服务（OpenAI、Claude、deepseek等）和自部署开源模型服务，提供统一的接入标准

建立完善的模型版本管理、配置管理和发布流程

2. 中台服务架构设计

基于统一接口标准，构建高可用、高并发的大模型中台服务

设计实现用户权限分层管理、智能流量调度和服务降级机制

建立完善的监控告警体系，确保服务稳定性和可观测性

3. Agent生态能力建设

跟踪业界Agent技术发展趋势，持续优化平台能力

设计面向未来的API架构和能力体系，支持多模态Agent应用的落地

构建Agent工具链和开发框架，提升开发效率

4. 数据驱动的平台优化

建立大模型使用数据的采集、分析和可视化体系

基于用户行为和性能数据，持续优化平台架构和服务质量

制定数据驱动的产品迭代策略，提升用户体验

任职要求

1. 本科及以上学历，3年以上工作经验，3年以上后端系统的开发经验；

2. 精通Java和数据结构，具有强烈的好奇心，能够发现业务中的痛点，并通过架构改进解决问题；