---
title: Kafka 主题保留与压缩策略(Retention、Log Compaction、cleanup.policy)
keywords:
- Retention
- Log Compaction
- cleanup.policy
- min.insync.replicas
- 可靠性
description: 设计 Kafka 主题的保留与压缩策略,合理配置 cleanup.policy=delete/compact,并验证可靠性与成本的平衡。
date: 2025-11-26
tags:
- Kafka
- Log Compaction
- Retention
- cleanup.policy
- min.insync.replicas
- 可靠性
- 后端
- 消息队列
categories:
- 文章资讯
- 技术教程
---
Kafka 主题保留与压缩策略(Retention、Log Compaction、cleanup.policy)
概述
主题保留与压缩直接影响存储与消费语义。根据业务选择删除保留或压缩保留,确保一致性与成本控制。
关键实践与参数
- 删除保留:
retention.ms/bytes控制历史删除;适合事件流。 - 压缩保留:
cleanup.policy=compact保留最新键值;适合快照与状态同步。 - 可靠性:
min.insync.replicas与 ACK 策略;副本与 ISR 稳定性。
配置示例
kafka-topics --alter --topic user-status \
--config cleanup.policy=compact \
--config min.cleanable.dirty.ratio=0.1 \
--config segment.ms=3600000
验证方法
- 观察段与压缩效果;比对压缩前后存储与消费延迟。
- 压测保留策略下的读写性能;评估 ISR 与副本稳定性。
- 故障演练:副本失效与恢复,检查数据完整性。
注意事项
- 压缩对键设计有要求;避免非幂等消息破坏快照。
- 删除保留需评估下游重放与回溯需求。
- 与消费者组的偏移管理协同;避免过早删除导致不可重放。

发表评论 取消回复