大模型安全运营工程师(J13854)

职位描述

1. 负责大模型和AI-Agent全生命周期风控运营，平衡业务安全性与用户体验。

2. 深耕多模态对话、Agent等应用场景，负责安全策略设计与落地，闭环处置Prompt注入、隐私泄露、策略误漏判等各类风险问题。

3. 基于线上数据提炼风险特征，迭代优化风控策略，提升策略准确率、召回率。

4. 推动安全运营工具、自动化安全评测工具的迭代优化。

5. 持续跟进AI监管政策、新型攻防手段，沉淀风险案例库，推动安全能力从事后处置向主动防御演进。

入职后将结合个人背景，侧重深耕其中一个专项方向：

① 大模型内容安全评测：搭建大模型安全评测体系与上线准入基线；针对模型越狱、对抗样本、模型幻觉等风险制定测评方案；落地红队自动化测评工具，承接大模型专项安全测试工作。

② 大模型风控运营：搭建线上风险告警机制，维护风控规则与风险案例库；排查并调优线上误判、漏判问题；为新业务输出前置风控预案，保障业务平稳上线。

③ AI‑Agent安全防护：开展智能体安全攻击测试，识别工具越权、意图偏离等Agent特有风险；依托防护原子技术，设计并持续优化安全防护策略。

任职要求

1. 本科及以上学历，人工智能、计算机、网络空间安全、大数据、统计学等相关专业；

2. 具备扎实的AI与大数据数据分析能力，擅长从海量风险数据中提炼特征、定位根因、输出可落地策略；

3. 有AI红队测评、Agent攻防、大模型内容风控实习/项目经验，熟练使用安全评测工具、具备风险数据分析经验者优先；有CTF、安全赛事、NLP算法竞赛获奖者优先；

4. 拥有优秀的结构化拆解与逻辑推演能力，跨部门协同高效，能够独立牵头推进风控策略迭代、安全评测、风险治理类项目全流程落地。

5. 工作主动、抗压性强，能适配AI业务快速迭代节奏；

6. 入职后将结合个人能力及业务需求，定岗深耕内容安全评测/风控运营、智能体安全运营任一方向。

此岗位为科大讯飞集团统一招聘岗位，人员通过简历筛选、初试、复试、终审等环节后录用。