算法工程师-多模态大模型内容理解方向

职位描述

工作职责:

1.大语言模型后训练与迭代

●在真实业务数据与线上反馈驱动下，设计并实现大语言模型的后训练方案，包括 SFT、RL，以及其他蒸馏方案等；

●围绕目标场景（理解、分类、生成、抽取等）持续优化模型能力与泛化表现。

2.强化学习训练策略与算法实现

●参与或负责 GRPO、GSPO、DAPO 等强化学习算法在多模态/LLM后训练中的落地；

●可以在不同场景下，设计不同的奖励模型/打分器（Reward/Preference），优化采样、优势估计、KL约束与训练稳定性，提升对齐质量与可控性。

3.蒸馏与轻量化落地

●探索 教师-学生蒸馏、偏好蒸馏、数据蒸馏、logits/hidden states蒸馏等方法，在效果与成本之间做权衡；

●支持模型在推理侧的效率优化（吞吐、延迟、显存），配合业务达成线上成本指标。

●需要有技术敏感性，在该方向上可以进行前沿研究的探索。

4.训练工程与平台化支持

●基于 LLaMA-Factory、EasyR1、Verl等训练框架完成数据流水线、训练配置、实验管理与复现；

●与数据、产品、工程团队协作，建立“数据—训练—评估—上线—反馈”的闭环体系。

5.评测体系与问题分析

●建立或维护离线评测集与线上A/B策略，定义指标（有效性、鲁棒性、安全性、可控性等）；

●针对badcase进行归因分析（数据分布、奖励偏置、过拟合、幻觉、工具调用失败等），提出可执行优化方案。

工作要求:

1.基础能力

●计算机/数学/统计/人工智能相关专业，硕士及以上；

●1-3 年多模态内容理解、计算机视觉、自然语言处理或内容安全相关工作经验；

●扎实的机器学习与深度学习基础，精通 Transformer 架构与主流多模态大模型（LLaVA、Qwen-VL、InternVL 等）；

●熟练使用 Python，具备良好的工程实现与调试能力（PyTorch、训练日志分析、实验复现等）。

2.后训练与算法经验

●熟悉并有实践经历：SFT、RLHF/RLAIF、DPO/IPO类、蒸馏 等后训练方法中的一种或多种；

●熟悉GRPO、GSPO、DAPO等强化学习算法的基本原理与实现细节（采样、优势、KL、稳定性技巧等）；

●熟悉蒸馏相关方法（teacher forcing、logits distill、偏好蒸馏、数据蒸馏/过滤等）。

3.框架与工具链

●熟悉 LLaMA-Factory、EasyR1、Verl 等训练框架的配置与调参流程；

●熟悉分布式训练/并行策略（DDP、ZeRO、梯度累积、混合精度等）者优先。

加分项（Nice to Have）

●有大规模低质内容识别、反搬运、反作弊或内容审核系统建设经验者优先

●有大语言模型训练经验，尤其是SFT和RL之间的互补和效果分析；

●熟悉推理与部署优化：vLLM/TensorRT-LLM、量化、KV Cache优化、吞吐/延迟分析；

●在顶会/开源社区有论文/代码贡献（GitHub、HF、论文复现等）；

●熟悉数据处理：偏好数据构建、数据去噪、难例挖掘、自动标注与质量控制。