资深算法工程师 - 端侧模型小型化方向(J20115)

职位描述

岗位职责

1. 模型小型化研发

- 负责LLM/VLM大模型的端侧部署方案设计与实现，将云端大模型压缩适配到手机终端

- 研究并应用模型压缩技术，包括知识蒸馏、量化（INT8/INT4/混合精度）、剪枝、低秩分解等技术

- 优化模型架构设计，探索MoE、稀疏化、线性Attention等轻量化架构方案

- 持续迭代优化模型效果，平衡模型大小、精度和推理速度

2. 性能优化

- 针对移动端主流SoC芯片进行算子优化和推理加速

- 优化模型推理性能，降低内存占用、功耗和延迟，提升用户体验

3. 技术创新

- 跟踪业界最新的端侧AI技术和学术前沿，推动技术创新落地

- 参与专利撰写和技术论文发表

任职要求

任职要求

基本要求：

- 计算机、人工智能、数学等相关专业硕士及以上学历，3年以上相关工作经验

- 扎实的机器学习和深度学习理论基础，熟悉Transformer架构原理

- 精通Python，熟练使用PyTorch/TensorFlow等深度学习框架

加分项：

- 有端侧LLM/VLM模型部署经验

- 有手机厂商、芯片厂商或AI公司相关工作经验

- 有语音识别、对话系统、多模态理解等任务在端侧的应用经验