微信搜索-LLM大模型推理研发高级工程师-研发优化

职位描述

1.结合搜索业务场景，研发SLM，LLM等各类型尺寸适合的线上推理模型，保障推理引擎的性能与稳定性，降低部署成本，有效承载C端大流量访问要求，模型类型包括但不限于生成式，判别式等；

2.熟悉搜广推场景的分布式系统的基本原理（检索引擎，KV服务等），能够将通用的系统工程思想注入到大模型推理领域，系统化解决线上的工程难题；

3.紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用；

4.与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。