大模型异构芯片推理适配调优工程师（深圳/北京/上海/杭州）

职位描述

基于多种异构芯片，GPGPU/NPU/XPU等，协同算法和业务团队，主导分布式异构推理系统的开发设计与落地实现，聚焦低延时、高吞吐目标，使能多种异构芯片算力和攻克大规模推理系统工程化落地关键技术，主要包括；

1.模型适配：针对业界主流（如DeepSeek，Qwenxilie)和自研大模型进行多芯片适配；

2.精度调优：解决适配过程中模块和端到端精度异常现象；

3.系统性能调优：针对推理全链路进行性能Profiling剖析，确保关键算子、系统调度等状态，并通过系统工程优化等手段实现最优性能目标；

4.推理框架/引擎架构优化：针对多芯片架构关键特性，在推理框架层面进行专项优化，确保最优效果；

5.核心算子开发/调优：针对推理关键算子和场景，结合多种芯片微架构、硬件特点，进行针对性优化，提升底层计算/通信效率。