混元大模型预训练算法研究员/专家研究员（深圳/北京/上海）

职位描述

1.负责生成式大模型预训练相关的工作，包括但不限于：大规模模型预训练，长文本预训练，线性模型结构探索；

2.探索与跟进前沿技术，寻求技术突破，推动机器在AIGC能力的提升和突破；

3.探索高效的模型知识嵌入方法以及模型知识在线学习更新；

4.探索文本模型预训练的scaling law，在小规模小成本下更精准地预测大规模训练后的表现。