端侧AI应用工程师

职位描述

岗位定位： 用 Python 把开源小模型做成「车上能用」：场景微调 → 量化/压缩 → RKNN 转换与精度验收。

岗位职责

负责 1B–3B 级开源小模型（Qwen、ChatGLM 等）的场景微调（SFT / LoRA 等），面向无人车交互、售后问答、车端指令等业务，做出可复现的训练与评测流程；

主导模型量化、剪枝、蒸馏与算子适配，使用 RKNN-Toolkit 完成 RK 系列（RK3588 / 3576 / 182X 等）NPU 转换，给出量化前后精度、时延、显存/NPU 占用对比，达到可上板标准；

建立端侧模型评测集与回归口径（任务准确率、拒答、幻觉、首包/整句时延代理指标），量化或微调后必须过同一套门槛再交付；

向 C++ 推理岗交付标准模型包：RKNN 模型、预处理/后处理约定、词表与特殊 token、推荐 batch/分辨率/上下文长度、已知不支持算子清单；

跟踪开源小模型与端侧量化方法（GPTQ / AWQ / QAT / 混合精度等），在瑞芯微工具链约束下做技术选型，而不是只做一次性转换。

任职要求

核心技能

计算机、人工智能、自动化等相关专业本科及以上，硕士优先；2 年以上大模型微调或端侧量化经验；

精通 Python，熟练使用 PyTorch，能独立完成数据清洗、微调、评测脚本；熟悉 HuggingFace / PEFT/GGUF 等常见训练栈；

有真实量化落地经验（INT8 / INT4 / 混合精度至少一类），能讲清精度掉点原因和补救手段（校准集、敏感层、逐层量化等）；

熟悉主流开源小模型结构（Transformer、GQA、RoPE、KV Cache 等），能判断哪些结构/算子在 NPU 上不好映射；

使用过 RKNN-Toolkit 或同类端侧转换工具（ONNX / MNN / TensorRT / OpenVINO 也可，到岗后转 RK）；有瑞芯微芯片落地经验者优先；

能读懂 C++ 推理侧的输入输出与性能日志，便于联调；不要求独立承担板上应用开发。

加分项

有端侧语音模型（ASR / TTS / VAD）的量化或蒸馏经验；

有无人车 / 机器人 / 工业现场的领域微调数据构建经验；

有基于 CAN / 时序数据的小模型或故障诊断经验（Pandas / NumPy / Scikit-learn）。

综合素质

对无人驾驶 / 端侧 AI 有兴趣，能把「精度」和「板上能否跑起来」放在同一套目标里，而不是只追开源榜单；

交付讲证据：有评测表、有对比、能量化说明「为什么这个量化点可以上车」；

认同易咖智车「本分、皮实、担当、欲望、卓越」的人才观。