---

title: Kafka 主题保留与压缩策略(Retention、Log Compaction、cleanup.policy)

keywords:

  • Retention
  • Log Compaction
  • cleanup.policy
  • min.insync.replicas
  • 可靠性

description: 设计 Kafka 主题的保留与压缩策略,合理配置 cleanup.policy=delete/compact,并验证可靠性与成本的平衡。

date: 2025-11-26

tags:

  • Kafka
  • Log Compaction
  • Retention
  • cleanup.policy
  • min.insync.replicas
  • 可靠性
  • 后端
  • 消息队列

categories:

  • 文章资讯
  • 技术教程

---

Kafka 主题保留与压缩策略(Retention、Log Compaction、cleanup.policy)

概述

主题保留与压缩直接影响存储与消费语义。根据业务选择删除保留或压缩保留,确保一致性与成本控制。

关键实践与参数

  • 删除保留:retention.ms/bytes 控制历史删除;适合事件流。
  • 压缩保留:cleanup.policy=compact 保留最新键值;适合快照与状态同步。
  • 可靠性:min.insync.replicas 与 ACK 策略;副本与 ISR 稳定性。

配置示例

kafka-topics --alter --topic user-status \
  --config cleanup.policy=compact \
  --config min.cleanable.dirty.ratio=0.1 \
  --config segment.ms=3600000

验证方法

  • 观察段与压缩效果;比对压缩前后存储与消费延迟。
  • 压测保留策略下的读写性能;评估 ISR 与副本稳定性。
  • 故障演练:副本失效与恢复,检查数据完整性。

注意事项

  • 压缩对键设计有要求;避免非幂等消息破坏快照。
  • 删除保留需评估下游重放与回溯需求。
  • 与消费者组的偏移管理协同;避免过早删除导致不可重放。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部