Коллеги, а есть ли уже придуманное решение для следующей проблемы:

Kafka streams приложение с state store, бежит в kubernetes stateful set и держит свои state store в rocksdb на диске. При деплое новой версии приложения kubernetes убивает первый из трёх pod и запускает вместо него обновлённый контейнер с тем же persistent volume. Казалось бы, приложение должно сделать быстрый restore, потому что всё необходимое лежит рядышком на диске, но происходит всё иначе - после смерти одного из инстансов два оставшихся начинают rebalance и забирают себе его партишены и восстанавливают state store из changelog топика. Пока они выкачивают эти данные - в группу возвращается третий инстанс и снова происходит rebalance, снова выкачиваются state store с брокеров. Кто-то уже решал такое?

2 ответов

13 просмотров

Ещё можно покрутить standby replicas config

Alexey-Rogulin Автор вопроса

Оказывается, эту проблему как раз решили в Kafka v2.3 через Static Membership (group.instance.id). @gamussa, есть ли хоть какой-нибудь примерный ETA у confluent-platform v5.3?

Похожие вопросы

Обсуждают сегодня

Подскажите, а есть vault lite или ченить такое?) А то нужен вольт для похода в вольт, но весит он ~500 мб) как-то многовато для парочки запросов ))
Alexandr Orloff
17
Всем привет, есть небольшая проблема Есть такой скрипт document.addEventListener('DOMContentLoaded', function () { const sliderTabs = document.querySelectorAll('.s...
A da
8
@go1337 @dblackCat Привет. Все ещё дрочусь с fastpanel. Добавил второй домен который должен смотреть в рут того же сайта, но так как это просто домен, а не сайт, я не могу ему...
Ross 🦴
9
До речі, в ево нема можливості чи якого розширення щоб з адмінки з телефона зайти і терміново щось в верстці поправити?
Женя
7
кто-нибудь пользуется тайм-трекерами во время работы? так много разных нагуглил, может есть что-то популярное
Lencore
8
Пацаны. Я разрабатываю софт для инвайтинга на телетон, и столкнулся с такой проблемой, в один из чатов не могу приглашать никого, не дает добавлять, в то же время через официа...
Kernel Panic
11
Скажите, а кому нужен Currency как отдельный плагин вместо полноценного ecommerce в OctoberCMS? Кто-то использует его уже или планирует в будущем? Может я что-то не понимаю?
Igor
13
Розмовами про Рево мені нагадали часи, коли шаблони правилися прямо в адмінці. Хто в курсі, чому відійшли від цієї практики, так блейд не працює? Доволі зручно ж було (інколи)
Женя
3
Всем добрый вечер, Рад оказаться в кругу единомышленников. Начинаю погружаться в мир .net веба. Зовут Ерасыл 🖖 У меня назрел вопрос: Какой процент проектов, прошедшие через в...
Ерасыл
6
Чому? Да тому що без GiT не уявляю нормального проекта а коли код в базі то то так собі
Dmytro Lukianenko
3
Карта сайта