大模型推理引擎研发工程师

职位描述

1. 负责LLM大语言模型的推理优化；

2. 负责机器学习引擎的编译优化工作；

3. 负责模型稀疏化和模型量化工作。

任职要求

岗位要求：

1. 熟练掌握CUDA编程、C++编程，数据结构和算法知识；

2. 熟悉TVM或TensorRT或FastTransformer等推理优化框架；

3. 熟悉LLM大模型相关背景知识，有相关方向的研究经验和产出。

岗位亮点

1. 紧跟人工智能行业进展，接触到前沿技术和行业趋势，磨练出对人工智能的独到见解；

2. 参与AI大模型的数据、训练与评测的全流程，了解从理论到工程实践的全面技能；

3. 有机会参与公司的创新项目，跨足不同领域，拓宽人工智能技术的应用范围。