数据工程

Apache Airflow 调度器深度实战:从 DAG 序列化、Critical Section 到 Deferrable Operator 与 Asset 驱动调度的工程全解

拆解 Airflow 2.x 调度器的核心工程取舍:Serialized DAG 如何把 Python 对象砍出决策链路,Critical Section 行锁如何保证 Pool 额度扣减的原子性,Deferrable Operator 如何消灭 Sensor 的 slot 空转,Asset 又如何把调度从时间驱动升级为数据驱动。附生产调优清单与可直接落地的自定义 Trigger 代码。

Apache Airbyte 数据集成引擎深度实战:从 Airbyte Protocol 消息流、增量同步与 CDC 状态语义到 Destination Normalization 的工程全解

拆解 Apache Airbyte 数据集成引擎:Airbyte Protocol 消息信封(RECORD/STATE/TRACE/CONTROL)、Catalog 与四种同步模式、cursor 增量与 CDC 全局位点的状态语义差异、raw table + normalization 落地路径、JSON Schema 到目标端的类型精度映射,以及 Temporal 编排、背压与 checkpoint 调优清单。

大模型语料去重工程实战:从 MinHash-LSH 的概率曲线到 10TB 语料流水线

拆解预训练语料去重的三层漏斗:归一化精确去重、MinHash-LSH 近重复召回、embedding 语义兜底。从 MinHash 的无偏估计性质与 1-(1-s^r)^b 分带概率曲线出发,给出签名、分桶、候选复核与连通分量的可运行代码,并总结倾斜桶、阈值拍脑袋、去重后分布偏斜等生产级坑点与验收清单。

Apache Hudi 深度工程实战:从 Timeline MVCC、记录级索引到 MOR/COW 的湖仓 Upsert 引擎全解

拆解 Apache Hudi 的三层工程内核:Timeline 时间线 MVCC 的快照与增量语义、File Group/File Slice 的物理布局、记录级索引(Bloom/Bucket/Record Index)的代价模型;对比 COW 与 MOR 的取舍边界,给出 Compaction/Clustering/Cleaner 表服务节奏、OCC 多写入端冲突治理与七个生产踩坑清单。