环境\配置\命令

语言

Kafka在0.8.2.x版本中用java语言重写了producer ProducerConfig.java

在0.9.0.x版本中用java重写了consumer ConsumerConfig.java

剩余部分为Scala实现的 KafkaConfig.scala

命令

# 查看主题信息bin/kafka-topics.sh --zookeeper localhost:2181 --describe --topic topic_test2021# 修改主题分区数量(只能比之前的多)bin/kafka-topics.sh --alter  --zookeeper localhost:2181  --topic topic_test2021  --partitions 3

单机版配置示例 server.properties

broker.id=0  port=9092advertised.listeners=PLAINTEXT://47.107.139.101:9092num.network.threads=2  num.io.threads=8  socket.send.buffer.bytes=1048576  socket.receive.buffer.bytes=1048576  socket.request.max.bytes=104857600  log.dirs=/tmp/kafka-logs  num.partitions=2   log.retention.hours=168  log.segment.bytes=536870912  log.retention.check.interval.ms=60000  log.cleaner.enable=false  zookeeper.connect=localhost:2181  zookeeper.connection.timeout.ms=1000000offsets.topic.replication.factor=1

参数说明

broker配置参数参数  默认值 描述broker.id   -1　 每一个boker都有一个唯一的id作为它们的名字。当该服务器的IP地址发生改变时,broker.id没有变化,则不会影响consumers的消息情况port    9092    broker server服务端口host.name   ""  broker的主机地址,若是设置了,那么会绑定到这个地址上,若是没有,会绑定到所有的接口上,并将其中之一发送到ZKlog.dirs    /tmp/kafka-logs kafka数据的存放地址,多个地址的话用逗号分割,多个目录分布在不同磁盘上可以提高读写性能  /data/kafka-logs-1,/data/kafka-logs-2message.max.bytes   1000012 表示消息体的最大大小,单位是字节num.network.threads 3   broker处理消息的最大线程数,一般情况下数量为cpu核数num.io.threads  8   处理IO的线程数log.flush.interval.messages Long.MaxValue   在数据被写入到硬盘和消费者可用前最大累积的消息的数量log.flush.interval.ms   Long.MaxValue   在数据被写入到硬盘前的最大时间log.flush.scheduler.interval.ms Long.MaxValue   检查数据是否要写入到硬盘的时间间隔。log.retention.hours 168 (24*7)  控制一个log保留多长个小时log.retention.bytes -1  控制log文件最大尺寸log.cleaner.enable  false   是否log cleaninglog.cleanup.policy  delete　 delete还是compat.log.segment.bytes   1073741824  单一的log segment文件大小log.roll.hours  168 开始一个新的log文件片段的最大时间background.threads  10  后台线程序num.partitions  1   默认分区数socket.send.buffer.bytes    102400  socket SO_SNDBUFF参数socket.receive.buffer.bytes 102400  socket SO_RCVBUFF参数zookeeper.connect       指定zookeeper连接字符串, 格式如hostname:port/chroot。chroot是一个namespacezookeeper.connection.timeout.ms 6000    指定客户端连接zookeeper的最大超时时间zookeeper.session.timeout.ms　　  6000    连接zk的session超时时间zookeeper.sync.time.ms  2000    zk follower落后于zk leader的最长时间high-level consumer的配置参数参数  默认值 描述groupid groupid 一个字符串用来指示一组consumer所在的组socket.timeout.ms   30000   socket超时时间socket.buffersize   64*1024 socket receive bufferfetch.size  300 * 1024  控制在一个请求中获取的消息的字节数。 这个参数在0.8.x中由fetch.message.max.bytes,fetch.min.bytes取代backoff.increment.ms    1000    这个参数避免在没有新数据的情况下重复频繁的拉数据。 如果拉到空数据,则多推后这个时间queued.max.message.chunks   2   high level consumer内部缓存拉回来的消息到一个队列中。 这个值控制这个队列的大小auto.commit.enable  true    如果true,consumer定期地往zookeeper写入每个分区的offsetauto.commit.interval.ms 10000   往zookeeper上写offset的频率auto.offset.reset   largest 如果offset出了返回,则 smallest: 自动设置reset到最小的offset. largest : 自动设置offset到最大的offset. 其它值不允许,会抛出异常.consumer.timeout.ms -1  默认-1,consumer在没有新消息时无限期的block。如果设置一个正值, 一个超时异常会抛出rebalance.retries.max   4   rebalance时的最大尝试次数producer的配置参数参数  默认值 描述producer.type   sync    指定消息发送是同步还是异步。异步asyc成批发送用kafka.producer.AyncProducer, 同步sync用kafka.producer.SyncProducermetadata.broker.list    boker list  使用这个参数传入boker和分区的静态信息,如host1:port1,host2:port2, 这个可以是全部boker的一部分compression.codec   NoCompressionCodec  消息压缩,默认不压缩compressed.topics   null    在设置了压缩的情况下,可以指定特定的topic压缩,未指定则全部压缩message.send.max.retries    3   消息发送最大尝试次数retry.backoff.ms    300 每次尝试增加的额外的间隔时间topic.metadata.refresh.interval.ms  600000  定期的获取元数据的时间。当分区丢失,leader不可用时producer也会主动获取元数据,如果为0,则每次发送完消息就获取元数据,不推荐。如果为负值,则只有在失败的情况下获取元数据。queue.buffering.max.ms  5000    在producer queue的缓存的数据最大时间,仅仅for asycqueue.buffering.max.message 10000   producer 缓存的消息的最大数量,仅仅for asycqueue.enqueue.timeout.ms    -1  0当queue满时丢掉,负值是queue满时block,正值是queue满时block相应的时间,仅仅for asycbatch.num.messages  200 一批消息的数量,仅仅for asycrequest.required.acks   0   0表示producer无需等待leader的确认,1代表需要leader确认写入它的本地log并立即确认,-1代表所有的备份都完成后确认。 仅仅for syncrequest.timeout.ms  10000   确认超时时间