推理研发工程师/专家
岗位信息
| 招聘单位 | 金山云 |
|---|---|
| 工作地点 | 武汉市 |
| 官方更新时间 | 2025-04-30T10:35:06 |
职位描述
岗位职责: 参与金山云智算云模型推理引擎开发工作要求,以下技能中匹配2个及以上: 熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构,具有一定开发经验 熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术 熟悉分布式训练/分布式推理 熟练掌握大模型低比特量化方法 熟悉GPU架构和CUDA编程,深度学习算子优化方法
任职要求
岗位职责: 参与金山云智算云模型推理引擎开发工作要求,以下技能中匹配2个及以上: 熟悉vLLM/sglang/TRT-LLM等至少一种LLM推理引擎架构,具有一定开发经验 熟悉LLM/多模态/diffusion等至少一种大模型推理加速优化技术 熟悉分布式训练/分布式推理 熟练掌握大模型低比特量化方法 熟悉GPU架构和CUDA编程,深度学习算子优化方法
提示:投递请认准招聘单位官方招聘官网,谨防中介收费。