大模型算法实习生

职位描述

职位描述：

参与语言模型的全流程模型训练与性能评估，包括预训练、指令微调、偏好对齐，并对流程中某些部分算法进行深入探究，并将研究成果转化为学术论文。

职位职责：

1. 模型训练各阶段方法设计与研究，

- 参与上游大规模语料库的构建，确保数据质量和多样性。

- 进行模型性能分析，识别和解决训练过程中的瓶颈。

- 优化下游任务的模型能力，采用先进的调优方法提升模型效果，包括SFT和RLHF等相关的算法研究。

2. 各阶段模型性能评估

- 构建各阶段的模型评测数据集，确保评测的全面性和代表性。

- 设计和完善评测流程，确保评测的科学性和系统性。

任职要求

职位要求：

1. 拥有扎实的编程能力，精通至少一种编程语言。

2. 良好的沟通协作能力，能和团队一起探索新技术，推进技术进步。

3. 优秀的文献阅读能力，紧跟行业前沿技术和热点问题。

4. 出色的问题分析和解决能力，能深入解决算法探究过程中存在的问题。

加分项：

1. 熟悉NLP相关的算法和技术，具备大模型训练经验者优先考虑；

2. 在大模型领域，参与过重要开源项目，大模型相关比赛优胜或发表相关论文者优先。