AI infra工程师

职位描述

1. 负责具身智能AI模型和算法的优化、部署，包括但不限于模型量化、蒸馏、剪枝，算子融合、算子定制，算法并行化、异步化等技术方案的研发；

2. 充分挖掘异构硬件能力，如INT8/INT4等低精度算力单元、DLA、TensorCore、ARM Neon、AVX512 等加速模型和算法性能；

3. 基于异构硬件特性设计软件系统架构，利用并行、异步、缓存等手段提高系统吞吐；

4. 负责大模型技术的边缘侧部署。

任职要求

1. 计算机、机器学习、人工智能等相关专业本科及以上学历，计算机基础知识扎实；

2. 熟练掌握C++/Python，有Linux下2年以上的开发经验，具备优秀的开发和调试能力；

3. 熟悉模型压缩、剪枝、蒸馏、量化等技术，有1年以上实战经验；

4. 熟悉pytorch、TensorFlow等AI框架，了解TensorRT、TVM；

5. 熟悉大模型加速技术，如mlc-llm， llama.cpp；

5. 自我驱动力强，优秀的分析问题和解决问题的能力，对新技术有钻研兴趣，自学能力强；

6. 熟悉CUDA编程和nsight system，有利用GPU等异构硬件上优化软件性能的优先；

8. 有自动驾驶或机器人算法工程化落地经验者优先；

9. 对具身智能有浓厚兴趣，相信技术改变世界的优先；

10、 良好的沟通表达能力和团队协作能力。