大模型服务安全策略

职位描述

1)负责跟踪大模型风控的趋势，输出政策解读、合规方案和合规策略，面向公司大模型内容提供合规咨询。

2)基于语言类、多模态类大模型风险防控要求，运用Prompt攻击检测和大模型输出安全评测工具，量化风控效果。在大模型内生安全、外置防御、安全测评方面，设计风控策略并推动落地，确保安全与体验的平衡。

3)根据大模型AIGC内容安全管控要求和范围，结合业务特性进行风险评估，设计出适配业务发展需要的内容安全解决方案并推动落地。

4)通过数据分析、评测效果反馈，不断优化安全管控策略，提高大模型安全机审和人审防护质量。

5)与业务、法律、内容安全、GA等团队协作，确保大模型产品符合相关法律法规要求。

6)风险发生时快速响应，协同产品技术团队，推动安全问题解决。

任职要求

1）本科以上学历，5年以上运营经验，有大模型内容安全相关行业、产品运营经历、数据处理分析能力的经验优先；

2）对风险理解较深，对行业保持关注和洞见，能够敏锐的把握政策及风险的动态变化；

3）熟悉大模型产品，熟悉大模型安全评测框架（如红队测试、安全基准测试）、了解Prompt Engineering及常见攻击向量，具备与产研技术团队沟通协调的能力；

4）优秀的逻辑思维能力与数据敏感性，思路开阔，有创新的想法，能持续学习；

5）具备良好的职业道德，认真负责，主动担当。