模型推理优化专家

职位描述

1、参与快手大规模深度学习推理框架的研发与优化，保障在线系统的高可用/高并发，为快手搜索数亿用户提供高效稳定的算力输出；

2、负责快手搜索模型推理优化工作，优化模型推理性能，高吞吐低延时支撑模型推理服务；

3、 支持大模型在搜索场景落地的相关模型优化，包括不局限于AI检索，Query改写等。

任职要求

1、熟悉Linux开发环境，良好的系统编程、数据结构、算法基础、系统设计能力；掌握C++/Python编程语言；

2、熟悉tensorflow、pytorch、TensorRT， Faster Transformer等主流训练和推理框架，并有相关优化经验者优先；

3、熟悉编译优化技术及相关框架，如MLIR、TVM、XLA；有显存优化、算子融合、图优化等实操经验；

4、熟悉CUDA编程，具备较好开发能力，熟悉triton、cutlass、有算子库开发经验者优先；

5、有搜推广模型系统优化经验者优先；

6、具有良好的团队合作精神和沟通能力，能够对算法和底层的协同优化起到核心桥梁作用。