模型部署工程师

职位描述

负责人形机器人相关AI模型在边缘侧/端侧硬件平台（如Nvidia NX、Thor系列）的量化、加速和工程化部署，包括CV模型、多模态大模型、VLM/VLA模型等；

负责推理性能的极致优化，聚焦吞吐量、延迟、显存、功耗、精度等核心指标，设计并实现模型压缩、量化、蒸馏、混合精度推理等优化方法；

合理规划多个模型的部署方案，达成基于业务的动态调整和资源利用的最大化；

跟踪学术前沿和产业最佳实践，并应用于实际项目中，建立完整推理性能评估与优化工具链，为项目团队提供标准化的优化工具和支持。

任职要求

计算机科学、数学、电子工程、软件工程等相关专业硕士及以上学历，2年以上深度学习推理或高性能计算优化相关工作经验；

熟悉主流模型量化与压缩方法，熟练使用至少一种深度学习框架，并了解其量化工具链；

熟练掌握C++/Python，具备扎实的CUDA编程经验，熟悉高性能计算和性能分析工具；

有机器人、自动驾驶、AR/VR、智能硬件等实际落地项目经验者优先。