资深Go研发工程师（AI网关方向）

职位描述

• AI网关核心研发与架构设计

◦ 基于Go语言主导AI网关核心模块开发，负责请求路由、流量管控、协议转换等核心功能实现

◦ 基于Envoy构建高性能数据平面，设计控制平面与数据平面的交互逻辑，优化网关转发性能

◦ 结合K8s生态设计AI网关的动态扩缩容、服务发现及灰度发布方案，支撑大模型服务的灵活部署

• 大模型服务适配与链路优化

◦ 设计AI网关与大模型推理/训练服务的对接方案，支持多模型版本管理、A/B测试及智能路由

◦ 优化网关与后端服务的通信链路，解决大模型长请求、高算力场景下的性能瓶颈

◦ 实现网关层的模型调用鉴权、配额管理、成本计量等核心能力

• 高可用与可观测性建设

◦ 基于K8s与Envoy实现网关的熔断、降级、限流策略，保障大模型服务的稳定调用

◦ 搭建网关全链路监控体系（结合Prometheus、Grafana、Jaeger），实现请求追踪、性能指标监控及异常告警

◦ 主导网关容灾方案设计，确保单点故障不影响整体服务可用性

• 技术方案落地与团队协作

◦ 输出网关技术方案、接口文档及运维手册，支撑业务团队快速接入大模型服务

◦ 与模型、平台团队协作，解决网关与大模型服务集成中的技术问题

◦ 跟踪Envoy、服务网格（Service Mesh）领域技术动态，推动AI网关技术架构持续优化

任职要求

• 学历与经验

◦ 本科及以上学历，计算机相关专业

◦ 6年以上后端开发经验，其中3年以上Go语言开发经验，2年以上基于Envoy或类似Proxy的网关研发经验

◦ 有大模型平台、AI服务网关或高性能API网关（支撑万级以上QPS）设计经验者优先

◦ 熟悉K8s生态下服务编排、服务发现、Ingress控制器等组件的应用与原理

• 核心技术能力

◦ 精通Go语言并发编程、内存管理及性能调优，熟悉Gin、Go-Micro等主流框架

◦ 深入理解Envoy的架构原理、配置模型及扩展机制，能基于Envoy进行二次开发或定制化配置

◦ 熟练掌握K8s API、CustomResourceDefinition（CRD）及Operator模式，能基于K8s构建网关自动化运维能力

◦ 了解HTTP/2、gRPC等协议原理，具备网络性能优化经验

◦ 熟悉Redis、etcd等分布式存储在网关场景的应用（如分布式限流、配置同步）