Codewave-服务端开发工程师

职位描述

1、负责 Codewave 智能开发平台 AI 网关与流量网关的架构设计、核心功能开发与持续演进，包括：多模型统一接入层（OpenAI/Anthropic/ 国产大模型等）的协议适配与转换、请求路由与智能调度、流式响应（SSE/WebSocket）的转发与处理；

2、负责流量网关能力建设：南北向 / 东西向流量的统一接入与治理，路由与灰度发布、负载均衡、鉴权认证与安全防护、限流熔断、流量镜像与回放等，保障平台核心业务的稳定接入与流量安全；

3、负责平台核心业务开发：参与 Codewave 智能开发平台核心业务链路（如租户、应用生命周期管理，运营等）的架构设计与研发，推动平台能力的产品化落地与持续迭代；

4、负责网关核心能力建设：Token 计量与计费、配额管理、多级限流、API Key 全生命周期管理、语义 / 结果缓存、模型故障降级与 Failover 机制；

5、负责网关可观测性体系建设：全链路调用追踪、监控告警、成本分析与调用质量评估；

6、攻关高并发、长连接、低延迟场景下的性能与稳定性难题，保障海量 LLM 调用下的服务可用性。

任职要求

1、计算机及相关专业本科以上学历，5 年以上服务端开发经验（特别优秀的 AI 网关经验可适当放宽）；

2、熟练掌握 Java 开发，熟悉常用设计模式，能利用 Arthas、JProfiler、MAT 等工具对程序进行跟踪诊断；

3、理解 JVM 内存模型、编译机制、类加载机制，具备 JVM 调优实战经验；

4、深入理解 Netty/Reactor 响应式编程模型，有高并发网络编程与 SSE 流式传输的实战经验；熟悉k8s容器化技术

5、熟悉主流大模型 API 生态（OpenAI/Anthropic/ 国产大模型），理解 Chat Completions、Function Calling、流式输出、上下文管理等机制；

6、掌握 SpringBoot 等开发框架，熟悉微服务架构与分布式系统设计；

7、熟悉 Kubernetes 容器编排体系，有生产环境 K8s 使用经验（Deployment/Service/Ingress/Helm 等），理解云原生架构下的服务治理与弹性伸缩；

加分项

有中大型 AI 网关 / LLM 中台 / AI Infra 产品（网关方向）的设计和开发经验，熟悉 Kong AI Gateway、Higress、LiteLLM、OneAPI 等开源方案者优先；

有流量网关 / API 网关（如 Nginx、Kong、Higress、Istio/Service Mesh 等）的落地与治理经验者优先；

有智能开发平台（AI Coding，如 Cursor、Copilot 类产品）后端研发经验者优先