从 0 到 1 建设亿级广告数据的实时数仓(Kappa 架构),数据流单节点上千 QPS。
主要职责
- 实时数仓分层表设计(dwd/dwm/dws)与数据端整体架构设计
- 独立开发两个自研核心中间件:StarRocksSource、StarRocksRepo
- 以 SQL 为核心的数据同步框架(SR → SR、SR → ES)
- 监控报警服务与 Flink 集群运维工具(Python)
成果
同类型数据同步任务开发效率提升 10 倍以上(2 天 → 2 小时)。
Kappa 架构 · Flink · StarRocks
从 0 到 1 引入 Flink 构建亿级广告实时数仓(Kappa 架构),自研两个核心中间件,同类任务开发效率提升 10 倍(2 天 → 2 小时)。
从 0 到 1 建设亿级广告数据的实时数仓(Kappa 架构),数据流单节点上千 QPS。
同类型数据同步任务开发效率提升 10 倍以上(2 天 → 2 小时)。
输入关键词搜索本站全部文章