资深大数据架构工程师-流计算方向

职位描述

工作职责:

一、流计算方向(Flink / 流批一体)

1、跟踪 Flink / Flink CDC / Paimon 的社区前沿,结合实时业务做选型和落地

2、主导 Flink 引擎在亿级 QPS 入口、万级 TaskManager 规模下的稳定性、性能优化,包括但不限于:

（1）Checkpoint 加速 / Disaggregated State / Async State API

（2）大状态作业的 RocksDB / ForSt 调优

（3）反压治理 / 资源弹性 / Adaptive Scheduler

3、推动流批一体在 bilibili 实时数仓的落地(Flink + Paimon / Iceberg)

4、主导 Flink 大版本升级和 savepoint 兼容性体系建设(savepoint / 双跑 / 灰度 / 回滚)

5、解决 CDC 入湖、流式 join、实时大屏等典型场景的工程难题

二、AI 赋能基础设施研发

1、熟练使用 Claude Code、Cursor、Copilot 等 AI 编程工具，将 AI 深度嵌入日常工作流

2、主导 AI 流程自动化建设，为团队赋能：

（1）开发阶段：基于 AI 的代码生成、Code Review、单测生成、性能 profiling 自动化

（2）发布阶段：AI 辅助的变更影响分析、灰度策略推荐、回滚决策

（3）运维阶段：AI 驱动的告警归并、根因分析、故障自愈

（4）答疑阶段：基于内部知识库的 RAG 答疑机器人、SQL 助手、调优建议生成

3、沉淀 AI 工具链最佳实践，推广到全组并向外辐射

工作要求:

【硬性条件】

●985 / 211 及以上院校全日制本科及以上学历，计算机相关专业

●5 年以上大数据相关工作经验

●至少深度参与过 1 个大型大数据基础设施项目

●Java / Scala / Go / Rust / C++ 中至少两门掌握扎实

●深度参与过 Flink 生产环境(>= 亿级 QPS / 千节点)的运维和优化,对 Flink 内核有源码级理解

●对以下任一有体系化认知:Checkpoint 机制 / State Backend / Flink SQL Planner / Adaptive Scheduler

【加分项】

●有 Flink CDC 入湖大规模落地经验

●有 Flink 2.x Disaggregated State / ForSt 调优实战

●主导过 Flink 大版本升级(1.x → 2.x、跨多个 minor)的项目

●主导过流批一体湖仓(Paimon / Iceberg)在生产环境落地

●Apache Flink / Paimon Committer 优先

●对开源生态高度熟悉,能快速判断"该自研、该用开源、该改开源"的边界

●具备从 0 到 1 设计大型分布式系统的能力,能独立 owner 某个技术方向

●良好的工程品味:代码质量、测试覆盖、可观测性、稳定性

●熟练使用 AI 编程工具完成日常开发,对 LLM 能力边界有清晰认知

●良好的中英文技术阅读和书面表达能力(社区 issue / PR / 设计文档)

●Apache 顶级项目 Committer / PMC,或活跃的 Contributor(有合入主线的非 trivial PR)

●主导过将 AI 能力工程化落地到基础设施场景的真实案例(不只是用 ChatGPT 写代码,而是构建了系统)

●在 GitHub 有持续的开源项目贡献或个人作品