大模型内容安全策略产品-AI创新业务

职位描述

1、负责AI娱乐产品的内容安全，建设图文、音视频等多模态内容的全链路安全策略体系，系统化解决误伤与漏放问题，平衡安全管控与用户体验及业务发展；

2、负责搭建内容质量把控流程、策略规则（PE）-Workflow，将复杂审核规则、安全策略转化为高效、精准的策略规则（PE），提升内容质量把控效率；

3、负责协调算法建设及优化安全能力，包括但不限于CV（计算机视觉）、VLM（视觉语言模型）、RAG（检索增强生成），评估模型在风险知识泛化、成本等方面的表现，确保适配解决特定业务场景下的内容安全风险。

任职要求

1、3年以上内容安全、风控策略相关领域工作经验，具备AIGC多模态内容安全经验者优先；

2、理解大模型原理及训练优化链路，能紧跟大模型与安全技术前沿，具备将安全策略与大模型技术结合落地的能力；

3、对数据敏感，熟练使用SQL进行数据分析，能够基于数据表现挖掘问题本质；

4、深刻理解内容安全业务，具备出色的风险判断力和业务洞察力。