【AI Infra】端侧智能工程师(J12901)

职位描述

1、做什么：

负责端侧（机器人本体/边缘设备）有限算力环境下的模型优化、量化与部署，实现模型在端侧的高效推理与实时响应。

2、核心职责：

- 云端模型部署到端侧设备（Jetson/高通/自研芯片），实施量化（INT8/INT4）、剪枝、蒸馏

- 端侧推理引擎建设（多模型并发调度、内存池管理、零拷贝数据传输）

- 端云协同模型更新机制设计（OTA 推送、差分更新、热更新）

- 端到端 Profiling 分析延迟瓶颈，针对特定硬件算子级优化

任职要求

1、任职要求：

- 计算机/电子工程 等相关专业，硕士及以上

- 熟悉模型优化技术：量化（PTQ/QAT）、剪枝、蒸馏

- 熟悉至少一种端侧推理框架：TensorRT/ONNX Runtime/TFLite

- 熟悉嵌入式 Linux、ARM 架构、CUDA 编程

- 熟悉 C++/Python，有高性能计算或底层优化基础

2、加分项：

- 具身智能/机器人端侧部署经验（VLA 模型在机器人本体运行）

- 模型编译器（TVM/MLIR/XLA）使用或开发经验

- ROS/ROS2 实时系统开发经验