Привет, камрады. Сталкивался кто-нибудь с похожей ситуацией? Кластер из 3

брокеров. replication.factor=3
min.insync.replica=2
Настроен сбор метрик через kafka_exporter.
В какой-то момент падает сервер, на котором работает один брокер Кафки и одна нода zookeeper.
Происходят перевыборы. Почти все топики успешно переезжают, но некоторые партиции __consumer_offsets, лидером которых был упавший брокер, нет.
В логах есть запись о переходе в в статус offline_parttition, так как ISR остался 1, на упавшем брокере.
Хотя до сбоя их было 3, если верить метрикам.
После восстановления брокера их снова стало 3.
Куда могли деться реплики в момент сбоя?

5 ответов

24 просмотра

Есть параметр в Кафка который отвечает за репликацию системных топиков, он по дефолту 1, даже если у тебя выставлено как ты пмшешь, системный топик всегда будет создаваться с 1, я тоже как то с такой бедой столкнулся пока не поправил параметры и руками не сменил системному топику через cli параметры репликации и не сделал ребаланс, открой доку с параметрами Кафка и ищи все что связано с rep factor или в понедельник черкани если не найдешь я закину тебе конфиг )

Vitaliy-Sitnikov Автор вопроса

Не, у нас это параметр тоже выставлен в 3. До сбоя было 3 синхронизированные реплики, после сбоя тоже 3. А вот пока нода лежала, их не было. Грешу на то, что информацию об ISR хранит сам, лидер партиции. Но вот в момент новых выборов, другие ноды почему-то не смогли выбрать лидера. Когда старый лидер вернулся, все восстановилось и он снова начал показывать 3 реплики.

Vitaliy Sitnikov
Не, у нас это параметр тоже выставлен в 3. До сбоя...

хм, такого не видел, если найдешь информацию заделись )

_
хм, такого не видел, если найдешь информацию задел...

offsets.topic.replication.factor=3 transaction.state.log.replication.factor=3

Старый Хрыч
offsets.topic.replication.factor=3 transaction.sta...

А ну я за эти параметры как раз говорил)

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Ребят, подскажите, пожалуйста, почему в префиксе к ассетам, которые генерируются через фильтр | theme в шаблоне, стал вдруг появляться index.php? Вот так выглядит ссылка на а...
Виталий
1
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Карта сайта