软件技术岗（后端模型调度）(J11506)

职位描述

1.负责AI推理服务调度与模型架构决策；

2.负责垂域大模型的微调（SFT/LoRA/QLoRA）与知识蒸馏；

3.负责模型评估与测试（基准测试、业务场景评估）;

4.负责模型版本管理与MLOps（灰度发布、回滚、漂移检测）

任职要求

1.计算机/人工智能相关专，硕士研究生及以上学历；

2.具备3年以上后端开发经验，有AI模型微调/部署经验优先；

3.技能：精通Python/Go，熟悉高性能API开发（FastAPI/gRPC），熟悉主流推理框架（Trition Inference Server、vLLM、TensorRT-LLM），熟悉主流微调框架（HuggingFace Transformers、PEFT、LoRA、QLoRA）,熟悉模型蒸馏技术（Teacher-Student架构、知识迁移），熟悉模型评估方法（基准测试、业务指标评估、A/B测试），熟悉MLOps工具（MLflow、Weights&Biases、Model Registry）,有K8s部署经验，熟悉容器化调度，了解GPU资源管理与队列调度（如Volcano、Kubeflow），熟悉API网关（如Kong、APISIX）

4.具备良好的团队协作与沟通能力，能清晰编写技术文档（架构设计文档/接口规范/模型评估报告），有主动学习意识，能跟踪技术前沿

5.有以下经验者优先：有千级QPS推理服务经验，有模型量化落地经验（INT4/FP8），有垂域数据集构建经验，熟悉强化学习对齐（RLHF/DPO）