Всем привет! Имеется тестовый кластер из трёх нод, работающих в

докер-контейнерах. Так получилось, что пришлось остановить две ноды и зачистить там контейнеры. После восстановления топики подтянулись, но schema-registry пустая (соответственно, _schemas топик тоже пустой). Возможно ли его восстановить и где лежат данные для этого топика? В директории /broker/data этого топика нет

16 ответов

8 просмотров

это точно такой же топик как и остальные. Если у него RF был равен 1, и он находился на очищенных нодах - то ответ увы, будет очевиден.... p.s. под "зачищенными - я понял что были вычищенны и данные тоже"

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик как и остальные. Если у н...

нет, rf = 3 был. топики всё таки хранятся в /kafka/broker/kafka-logs или /kafka/broker/data? в первой директории есть _schemas, во второй нет

это точно такой же топик, как и обычные. вот пример с одной из нод у меня: ... __consumer_offsets-47/ __consumer_offsets-48/ __consumer_offsets-49/ __consumer_offsets-5/ __consumer_offsets-6/ __consumer_offsets-7/ __consumer_offsets-8/ __consumer_offsets-9/ _schemas-0/ bootstrap.checkpoint cleaner-offset-checkpoint elasticsearch.log-events-1/ elasticsearch.log-events-2/ 5ый снизу

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик, как и обычные. вот прим...

пробую скопировать. но ощущение, что этот топик мог уже перетереться неправильными с зачищенных машин

Василий Калугин
нет, rf = 3 был. топики всё таки хранятся в /kafka...

Дык кафка должна сама восстановить с одного брокера на остальные, разве нет? Я бы не стал руками лезть и копировать. В логах что пишут брокеры пишут?

Василий-Калугин Автор вопроса
alexander rainchik
Дык кафка должна сама восстановить с одного брокер...

в этом и прикол, что не восстановила. в логах никаких ошибок

С 1 реплики 2 не восстановятся почти никогда

Василий-Калугин Автор вопроса
Старый Хрыч
С 1 реплики 2 не восстановятся почти никогда

Почему-то все топики восстановились, кроме _schemas

Василий Калугин
Почему-то все топики восстановились, кроме _schema...

И он был самый нагружённый? Кафка на рафте иди зукипере?

Василий-Калугин Автор вопроса
Василий Калугин
зукипер. нет, не самый нагруженный

Тогда видимо именно этому топику не повезло, irs что стоит?

Василий Калугин
имеете ввиду min replica sync? 2

Да, ну тогда странно, у вас docker compose?

Василий-Калугин Автор вопроса
Василий Калугин
да. от канфлюент версия

А скиньте в личку, конфиг его, какие вы правки конфигурации делали

Василий-Калугин Автор вопроса
Старый Хрыч
А скиньте в личку, конфиг его, какие вы правки кон...

Вроде разобрались, восстановив из бэкапа. Теперь вопрос, который требуется решить - как-то ограничить размер топиков. Возможно ли это стандартными средствами? Чтобы один топик не выжирал всё дисковое пространство

Похожие вопросы

Обсуждают сегодня

'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Ребят, а вот такой вопрос: если я владелец бота анонимного чата, в котором, например, имеются подписки, используя какую-нибудь ЮКассу (или тому подобное, в общем с налогами, в...
Eugene Неелов
8
Откуда ты lw взял вообще?
Sergey
6
Есть полностью собранная база "шрифтов" - подобных символов?
Shen
9
Короче получается только кнопки не поменять А кнопки вроде тоже слетают при редактировании не?
inc.
10
Дорогие друзья, есть тут те, Кто рад поучаствовать в работе и в команде над игровой платформой? Мы делаем игровую и уникальную платформу. Стек платформы Go и React. Нам ...
Александр Цивин :)
2
js не пойдет, код ставиться в twig html <source media="(min-width: 1200px)" srcset="{{ img|resize(x_1200, rate_h?x_1200*rate_h:false, {'mode':mode_resize_im...
Point 111
1
Век живи, век учись и продолжай удивляться Carbon Оказывается, в Carbon дату можно задавать даже текстом 😲 <?php use Carbon\Carbon; $october_date = new Carbon("last sunday o...
Igor
3
Кто сколько за бота берёт? (Я покупать не хочу)
Ivan Aleksandrovich
10
Карта сайта