Всем привет! Имеется тестовый кластер из трёх нод, работающих в

докер-контейнерах. Так получилось, что пришлось остановить две ноды и зачистить там контейнеры. После восстановления топики подтянулись, но schema-registry пустая (соответственно, _schemas топик тоже пустой). Возможно ли его восстановить и где лежат данные для этого топика? В директории /broker/data этого топика нет

16 ответов

20 просмотров

это точно такой же топик как и остальные. Если у него RF был равен 1, и он находился на очищенных нодах - то ответ увы, будет очевиден.... p.s. под "зачищенными - я понял что были вычищенны и данные тоже"

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик как и остальные. Если у н...

нет, rf = 3 был. топики всё таки хранятся в /kafka/broker/kafka-logs или /kafka/broker/data? в первой директории есть _schemas, во второй нет

это точно такой же топик, как и обычные. вот пример с одной из нод у меня: ... __consumer_offsets-47/ __consumer_offsets-48/ __consumer_offsets-49/ __consumer_offsets-5/ __consumer_offsets-6/ __consumer_offsets-7/ __consumer_offsets-8/ __consumer_offsets-9/ _schemas-0/ bootstrap.checkpoint cleaner-offset-checkpoint elasticsearch.log-events-1/ elasticsearch.log-events-2/ 5ый снизу

Василий-Калугин Автор вопроса
Сергей Голод
это точно такой же топик, как и обычные. вот прим...

пробую скопировать. но ощущение, что этот топик мог уже перетереться неправильными с зачищенных машин

Василий Калугин
нет, rf = 3 был. топики всё таки хранятся в /kafka...

Дык кафка должна сама восстановить с одного брокера на остальные, разве нет? Я бы не стал руками лезть и копировать. В логах что пишут брокеры пишут?

Василий-Калугин Автор вопроса
alexander rainchik
Дык кафка должна сама восстановить с одного брокер...

в этом и прикол, что не восстановила. в логах никаких ошибок

С 1 реплики 2 не восстановятся почти никогда

Василий-Калугин Автор вопроса
Старый Хрыч
С 1 реплики 2 не восстановятся почти никогда

Почему-то все топики восстановились, кроме _schemas

Василий Калугин
Почему-то все топики восстановились, кроме _schema...

И он был самый нагружённый? Кафка на рафте иди зукипере?

Василий Калугин
зукипер. нет, не самый нагруженный

Тогда видимо именно этому топику не повезло, irs что стоит?

Василий Калугин
имеете ввиду min replica sync? 2

Да, ну тогда странно, у вас docker compose?

Василий Калугин
да. от канфлюент версия

А скиньте в личку, конфиг его, какие вы правки конфигурации делали

Василий-Калугин Автор вопроса
Старый Хрыч
А скиньте в личку, конфиг его, какие вы правки кон...

Вроде разобрались, восстановив из бэкапа. Теперь вопрос, который требуется решить - как-то ограничить размер топиков. Возможно ли это стандартными средствами? Чтобы один топик не выжирал всё дисковое пространство

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
3
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
код Event::listen('cms.page.display', function (&$content, $slug, $page, $html) { if (is_object($content)) { dump($content); } else { dump($s...
Point 111
3
Ребят, а двух-факторку для плагина Users и для бэкенда октября кто-то прикручивал? Поделитесь опытом
Constantine Anikin
4
Карта сайта