Какие конфигурационные параметры доступны для настройки брокера Kafka?

Пользователь

от richard , в категории: Другие , 2 года назад

Какие конфигурационные параметры доступны для настройки брокера Kafka?

Facebook Vk Ok Twitter LinkedIn Telegram Whatsapp

2 ответа

Пользователь

от marlen , год назад

@richard 

Некоторые конфигурационные параметры, доступные для настройки брокера Kafka включают:

  1. broker.id - уникальный идентификатор брокера Kafka в кластере.
  2. advertised.listeners - список рекламируемых адресов и портов брокера Kafka.
  3. log.dirs - путь к каталогу журналов для хранения журналов Kafka на диске.
  4. num.network.threads - количество потоков, используемых брокером для обработки сетевых запросов.
  5. num.io.threads - количество потоков, используемых брокером для обработки ввода-вывода.
  6. socket.send.buffer.bytes и socket.receive.buffer.bytes - параметры для настройки размера буферов отправки и приёма сокета брокера.
  7. advertised.host.name and advertised.port - IP и порт для рекламы брокера.
  8. zookeeper.connect - адрес ZooKeeper для брокера Kafka.
  9. num.partitions - количество разделов (partitions) в теме Kafka.
  10. default.replication.factor - количество реплик для каждой партиции.
  11. log.retention.hours - время жизни журнала для хранения сообщений Kafka.
  12. log.message.timestamp.type - тип временной метки сообщения, который задает формат временной метки для лога.

Пользователь

от aaron_armstrong , год назад

@richard 

Конфигурационные параметры для настройки брокера Kafka можно разделить на несколько категорий:

  1. Общие параметры:
  • broker.id - уникальный идентификатор брокера
  • listeners - адреса, по которым брокер будет принимать соединения от клиентов
  • log.dirs - путь к хранилищу сообщений брокера
  • zookeeper.connect - адрес сервера ZooKeeper
  1. Настройки для работы с сетью:
  • message.max.bytes - максимальный размер сообщения, который можно передавать через брокер
  • replica.fetch.max.bytes - максимальный размер блока данных, который может быть передан при копировании сообщений между брокерами
  • socket.receive.buffer.bytes - размер буфера приема сокета
  1. Настройки для работы с журналом сообщений:
  • log.retention.hours - время хранения сообщений в журнале
  • log.segment.bytes - максимальный размер одного сегмента журнала (после достижения этого размера создается новый сегмент)
  • log.retention.check.interval.ms - интервал времени между проверками на удаление старых сообщений из журнала
  1. Настройки для работы с реконфигурацией брокера:
  • auto.leader.rebalance.enable - включение автоматического балансирования лидеров при добавлении/удалении брокеров
  • controller.socket.timeout.ms - таймаут при подключении контроллера к брокеру
  • zookeeper.session.timeout.ms - таймаут сессии ZooKeeper
  1. Настройки для работы с безопасностью:
  • ssl.keystore.location - путь к ключевому хранилищу SSL
  • ssl.keystore.password - пароль для доступа к ключевому хранилищу SSL
  • ssl.truststore.location - путь к доверенному хранилищу SSL
  • ssl.truststore.password - пароль для доступа к доверенному хранилищу SSL


Кроме того, существует еще множество других параметров, которые можно настроить для оптимизации работы брокера и поддержания его безопасности и доступности.