大模型端侧推理实习生

职位描述

1. 负责大模型在端侧推理的SDK研发；

2. 负责大模型与端侧平台的高效适配与推理优化；

3. 参与端侧大模型研发的整体规划，协同配合大模型端侧落地

任职要求

1. 硕士学历（优秀者本科亦可），计算机类专业，基础知识扎实

2. 有较强的工程能力、创新能力、学习能力；

3. 熟悉C++编程，掌握Git、CMake等常见工具，有良好的软件工程习惯；

4. 熟悉一种或多种端侧部署框架或工具链，如QNN、llama.cpp、Metal等；

5. 熟练阅读英文文档；

6. 有端侧算法落地、移动端开发经验优先。