提升 Kafka 集群的整体吞吐量是一个系统性工程,不能仅仅局限于 Broker 端,而是需要从 Producer(生产者)、Broker(服务端)、Consumer(消费者) 以及 基础设施/架构设计 四个维度进行协同调优。 在调优前,我们需要明确一个核心的权衡原则:高吞吐量往往需要以牺牲一定的延迟(Latency)或部分可靠性(Reliability)为代价。 以下是提升 Kafka 吞吐量的核心参数调优指南: --- 一、 Producer 端调优(提升写入吞吐) Producer 端的核心思路是:微批处理(Batching) 和 数据压缩(Compression),减少网络 I/O 次数。 1. (批次大小) 调优: 默认 16KB,建议调大到 、 甚至 。 作用: Producer 会将发往同一个 Partition 的消息攒成一个批次发送。批次越大,网络请求次数越少,吞吐量越高。 2. (延迟等待时间) 调优: 默认是 0,建议设置为 - 毫秒。 作用: 配合 使用。如果数据产生较慢,凑不够 batch.size,Producer 会最多等待 时间后发送。人为增加微小...