大模型与 AI应用安全工程师

职位描述

1. 负责蔚来自研大模型内容安全的评估和对齐，确保安全合规；参与智能体安全治理和技术方案设计，包括不限于智能体统一安全管理、智能体安全评测、智能体运行时风险检测和防御、智能体行为审计和风险溯源；

2. 负责智能体运行时安全检测和防御原子能力的构建。基于智能体的应用场景和功能描述，设计风险检测策略和防御方案，风险检测不限于提示词注入、工具滥用、越权、行为异常等，防御不限于运行时拦截、提示词安全改写、行为约束、安全代答、工具调用鉴权、执行沙箱等；

3. 负责智能体业务系统的安全管理。负责安全case反馈收集和事件处置、安全指标（漏报/误报）的归因分析、在线检测和防御策略的迭代优化等，保证智能体业务系统安全运行。

任职要求

1. 本科以上学历，有ai for security或者security for ai的相关工作经验

2. 对大模型安全的合规要求比较熟悉以及评估系统的构建有相关经验

3. 有大模型调优/ai应用经验，对当前主流的harness架构熟悉，知道其中的工作原理

4. 有强烈的技术好奇心，紧跟前沿技术者优先，有良好的协同、沟通、理解业务的能力，擅长利用所学知识解决实际问题

加分项：

- 大模型开发者或者数据安全/ai应用安全领域经验者

- 有AI/算法基础，对AI/算法在安全领域应用有一定经验