Всем привет! Имеется тестовый кластер из трёх нод, работающих в

докер-контейнерах. Так получилось, что пришлось остановить две ноды и зачистить там контейнеры. После восстановления топики подтянулись, но schema-registry пустая (соответственно, _schemas топик тоже пустой). Возможно ли его восстановить и где лежат данные для этого топика? В директории /broker/data этого топика нет

16 ответов

23 просмотра

это точно такой же топик как и остальные. Если у него RF был равен 1, и он находился на очищенных нодах - то ответ увы, будет очевиден.... p.s. под "зачищенными - я понял что были вычищенны и данные тоже"

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик как и остальные. Если у н...

нет, rf = 3 был. топики всё таки хранятся в /kafka/broker/kafka-logs или /kafka/broker/data? в первой директории есть _schemas, во второй нет

это точно такой же топик, как и обычные. вот пример с одной из нод у меня: ... __consumer_offsets-47/ __consumer_offsets-48/ __consumer_offsets-49/ __consumer_offsets-5/ __consumer_offsets-6/ __consumer_offsets-7/ __consumer_offsets-8/ __consumer_offsets-9/ _schemas-0/ bootstrap.checkpoint cleaner-offset-checkpoint elasticsearch.log-events-1/ elasticsearch.log-events-2/ 5ый снизу

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик, как и обычные. вот прим...

пробую скопировать. но ощущение, что этот топик мог уже перетереться неправильными с зачищенных машин

Василий Калугин
нет, rf = 3 был. топики всё таки хранятся в /kafka...

Дык кафка должна сама восстановить с одного брокера на остальные, разве нет? Я бы не стал руками лезть и копировать. В логах что пишут брокеры пишут?

Василий-Калугин Автор вопроса
alexander rainchik
Дык кафка должна сама восстановить с одного брокер...

в этом и прикол, что не восстановила. в логах никаких ошибок

С 1 реплики 2 не восстановятся почти никогда

Василий-Калугин Автор вопроса
Старый Хрыч
С 1 реплики 2 не восстановятся почти никогда

Почему-то все топики восстановились, кроме _schemas

Василий Калугин
Почему-то все топики восстановились, кроме _schema...

И он был самый нагружённый? Кафка на рафте иди зукипере?

Василий Калугин
зукипер. нет, не самый нагруженный

Тогда видимо именно этому топику не повезло, irs что стоит?

Василий Калугин
имеете ввиду min replica sync? 2

Да, ну тогда странно, у вас docker compose?

Василий Калугин
да. от канфлюент версия

А скиньте в личку, конфиг его, какие вы правки конфигурации делали

Василий-Калугин Автор вопроса
Старый Хрыч
А скиньте в личку, конфиг его, какие вы правки кон...

Вроде разобрались, восстановив из бэкапа. Теперь вопрос, который требуется решить - как-то ограничить размер топиков. Возможно ли это стандартными средствами? Чтобы один топик не выжирал всё дисковое пространство

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Ребят, подскажите, пожалуйста, почему в префиксе к ассетам, которые генерируются через фильтр | theme в шаблоне, стал вдруг появляться index.php? Вот так выглядит ссылка на а...
Виталий
1
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Карта сайта