Kafka 主题保留与压缩策略(Retention、Log Compaction、cleanup.policy)概述主题保留与压缩直接影响存储与消费语义。根据业务选择删除保留或压缩保留,确保一致性与成本控制。关键实践与参数删除保留:`retention.ms/bytes` 控制历史删除;适合事件流。压缩保留:`cleanup.policy=compact` 保留最新键值;适合快照与状态同步。可靠性:`min.insync.replicas` 与 ACK 策略;副本与 ISR 稳定性。配置示例kafka-topics --alter --topic user-status \ --config cleanup.policy=compact \ --config min.cleanable.dirty.ratio=0.1 \ --config segment.ms=3600000 验证方法观察段与压缩效果;比对压缩前后存储与消费延迟。压测保留策略下的读写性能;评估 ISR 与副本稳定性。故障演练:副本失效与恢复,检查数据完整性。注意事项压缩对键设计有要求;避免非幂等消息破坏快照。删除保留需评估下游重放与回溯需求。与消费者组的偏移管理协同;避免过早删除导致不可重放。

发表评论 取消回复