AI大模型安全首席技术专家(J13235)

职位描述

1、牵头AI人工智能安全领域布局，负责跟踪大模型安全、智能体安全的发展趋势，解读国际、国家大模型安全政策标准，参与集团、公司大模型安全政策标准编写工作；

2、负责通用及行业大模型（LLM）在训练过程、预测过程中的安全风险评估，并对常见的大模型安全风险如提示词注入、算法安全、数据安全、模型窃取等提供安全解决方案；

3、配合产研团队完成大模型安全、智能体安全产品的规划与行销工作，包含但不限于大模型风险测评、大模型安全围栏、大模型防火墙系统等；

4、配合运营团队构建公司人工智能安全运营体系，结合公司业务特性进行风险评估，设计出适合公司业务发展需要的人工智能安全解决方案并推动落地；

5、通过数据分析、评测效果反馈，不断优化大模型安全、智能体安全管控策略，提高大模型安全机审和人审防护质量。

任职要求

1、数学、计算机、机器学习专业，本科及以上学历，5年以上安全行业从业经验；

2、熟悉LLM、NLP、CV等模型，有机器学习基础，对传统模型和大模型技术有深刻认知，明晰算法在机审场景的应用方法者优先；

3、具备一定架构设计能力，主导过安全行业相关产品的底层设计、产品规划，或完成过关键技术突破；

4、熟悉自然语言处理（NLP）和机器学习（ML）相关技术和算法实现，具备扎实的编程能力，熟悉常用编程语言（如Python、Java、C++）；

5、熟悉大模型的训练、调试及推理过程，有大模型安全、AIGC安全、内容安全、数据安全从业经验者优先。