大模型评测研究员（智能安全） - 安全与风控

职位描述

团队介绍：负责公司大模型信息安全保障体系，持续识别和治理大模型衍生出的新型风险，并建设相应安全产品,保障大模型及其应用在训练、推理和部署等阶段的安全。同时将大模型相关技术应用到安全技术和安全运营领域，实现技术突破，做到效果和效率双提升。

1、深度研究大模型安全应用效果（如漏洞挖掘/渗透测试），持续跟进SOTA模型和评测指标；

2、持续定义新的大模型安全任务能力，提出更好的Benchmark，拓展大模型安全应用的边界；

3、搭建评测流程，保障准确、高效、可复现；

4、与模型训练、Agents团队和安全团队协作深度分析评测结果给出优化点。

任职要求

1、对评测有激情，相信评测的重要性；

2、有大模型“和”安全领域相关的经验和意识，例如CTF/漏洞/逆向/模型训练/Agents设计；

3、扎实的动手能力和代码功底；

4、在大模型或AI安全领域，主导过有影响力的项目或论文者优先；

5、踏实，关注细节，跨团队协作能力强，对模糊的事情不惧怕。