端侧模型推理优化高级工程师

职位描述

1）参与LLM/VLM/VLA端侧大模型推理优化相关工作，包括但不限于量化、剪枝、蒸馏、KV Cache 优化、跨模态推理调度、动作序列生成加速等方向。

2）参与大模型在端侧部署链路的优化与验证，包括模型转换、图优化、算子融合、内存优化、调度优化与性能分析。

3）跟进主流大模型端侧推理优化技术进展，结合业务场景探索兼顾效果、时延、吞吐、功耗与内存占用的优化方案。

4）基于真实硬件设备（AMD/Jetson/天数等）开展实验，分析不同模型结构、推理策略与硬件平台之间的性能差异，形成可复用的方法论。

任职要求

1）计算机、电子、自动化、数学等相关专业硕士及以上。

2）对大模型原理有较好理解，对 LLM / VLM / VLA架构（Qwen、PI0 等）有深入理解，熟悉 Transformer、Attention、KV Cache、主流大模型推理流程者优先，同时了解视觉模型原理者更佳。

3）熟悉至少一个算法或系统相关方向：模型压缩与加速（量化 / 剪枝 / 蒸馏 / 低秩分解）、推理优化算法（speculative decoding / prefix cache / 长序列优化 / 多模态推理拆分与调度）、或高性能计算与系统优化（并行计算 / 算子优化 / 编译优化 / 内存带宽分析）。

4）熟悉 Python，具备一定 C++ 基础，有 PyTorch 等深度学习框架使用经验。有CUDA编程经验者优先。