大模型工程师 （AgentOps 平台方向）(J10862)

职位描述

Agent Ops 平台建设：

• 全生命周期与运行时治理：Agent 注册与发现、编排调度、沙箱与资源隔离、多租户、权限审计、变更发布。

• Agent 可观测：Agent→工具→模型 全链路 Trace、行为日志与确定性回放、任务完成率、卡死/循环检测、token 预算耗尽预警。

• 告警：质量漂移、任务失败率、超时、成本异常——从阈值告警走向语义/异常检测告警，压低无效告警。

• 协议底座：落地 MCP、A2A、skills等协议接入，作为平台互操作标准。

• 模型调用层集成：对接成熟 LLMOps 工具链（模型网关、Token 计费、调用观测），打通到 Agent 全链路 Trace，不自建重复轮子。

大模型能力：

• 评测体系：把“输出质量”变成可量化、可回归、防作弊的指标。

• 成本与延迟的工程权衡：理解 KV cache、batching、量化、投机解码、路由降级、缓存命中对 TTFT 与 token 成本的影响。

• 上下文工程：长上下文切分、记忆压缩、token 预算在 Agent 各环节的分配——Agent Ops 平台直接服务的工程问题。

• 技术路线判断：能讲清“该调 API 还是微调、该 RAG 还是长上下文、该单 Agent 还是拆多 Agent”，有可复用框架而非逐个试错。

• 对齐与安全：Prompt 注入、越狱、幻觉、有害输出的防御——Agent 平台绕不开的治理项。（微调 SFT/DPO/RLHF 为加分项非硬要求——但要有判断力知道“什么时候绝对不该用”。

模型调优与系统工程化：

• 调用主流大模型 API，并根据业务需求进行模型微调。

• 负责智能体系统的工程化实现，包括 API 开发、数据库设计、云原生部署及性能优化。

平台化与标准（产品意识）：

• 把“Agent 怎么注册/上线/退役、安全合规”沉淀成平台内嵌规则（自动校验/审批/审计），而非文档。

• 平台是内部产品：讲开发者体验（DX）与接入摩擦——让 Agent 从开发到上线顺手、省事、可信。

任职要求

1.本科及以上,计算机科学、软件工程、人工智能、数学、统计学、运筹学或相关专业

2.3-5年以上经验（真实主导过落地项目优先）

3.主导过（不是参与）至少一套平台/Infra/中间件/可观测性/MLOps/SRE 系统的 0→1

4.能定义 LLM 评测体系：把“输出质量”变成可量化、可回归、防作弊的指标。

5.读懂并上手 MCP/A2A 协议：能讲清“它解决什么、为什么这么设计、坑在哪。

知识技能要求

1. 语言与平台：Python/Go、分布式、K8s、Docker、Metrics/Trace/Log、OpenTelemetry

2. Agent 与可观测：Agent 全生命周期、运行时治理、编排、熔断、资源隔离、多租户、全链路 Trace、行为回放

3. 协议：MCP、A2A、服务端/客户端实现

4. 大模型：评测体系、KV cache、batching、量化、投机解码、上下文工程、Prompt 注入防御、技术路线判断

5. LLMOps工具链：Langfuse、Helicone、模型网关、评测平台、eval pipeline、灰度发布、版本回滚