Возник вопрос. Точнее меня разработчик спрашивает. 3 топика по три

партиции, 3 консьюмера, 1 группа. Каждый взял по три партиции, но с "перекосом" по топикам - то есть условно один консьюмер читает только один топик, а два других поделили между собой еще два топика. В целом я считаю, что консьюмеры и не обязаны в рамках одной группы делить меду собой топики, только партиции по сути. Поэтому и перекос. Если хочешь чтобы каждый консьюмер читал только одну партицию из топика - нужно делать три группы, а не одну на все три топика. Но не могу найти подтверждение документальное этому. Может кто-то подсказать прав я или нет и ткнуть носом в теорию? Каюсь - не смог нагуглить.

10 ответов

26 просмотров
Ivgenich- Автор вопроса

Точнее даже придется делать не 3, а 9 консьюмеров по три на топик с разными группами.

ещё подсвети какое поведение хотелось бы достичь и почему текущее повведение - не устраивает

Имеет смысл рассматривать набор пар топик-группа. Поведение группы имеет смысл рассматривать только в разрезе 1 топика. 1 группа может быть на разных топиках.

Ivgenich- Автор вопроса
Максим
ещё подсвети какое поведение хотелось бы достичь и...

У него три топика разного веса и он очень хочет равномерно нагружать консьюмеры. Чтобы не было такого, что один читает самый тяжелый топик и процессит данные, а другие два читают лайтовые.

Ivgenich
У него три топика разного веса и он очень хочет ра...

топики разного веса, понял проблему теперь

Ivgenich- Автор вопроса
Alexander Fedyukov
Имеет смысл рассматривать набор пар топик-группа. ...

Ну вот я и объяснил ему, что если хочет баланс - одна группа на топик должна быть. Иначе всегда будет перекос по топикам.!

Ivgenich
Ну вот я и объяснил ему, что если хочет баланс - о...

Какой перекос? Распределение партиций идет внутри одного топика независимо от соседнего топика.

Ivgenich- Автор вопроса
Alexander Fedyukov
Какой перекос? Распределение партиций идет внутри ...

В рамках одной группы три топика по три партиции не распределяются у него равномерно по консьюмерам. У каждого консьбмера ровно три партиции. Но не у каждого консюмера три топика. То есть может быть ситуация, что один консьюмер будет читать три партиции и все из одного топика.

Ivgenich
В рамках одной группы три топика по три партиции н...

Ситуация возможна, особенно когда другие члены группы недоступны. Но есть механизм балансировки, который позволяет избегать подбных ситуаций. Иначе может получиться, что обработка сообщений из 1 топика станет заложником одного гнилого консюмера.

Ivgenich- Автор вопроса
Alexander Fedyukov
Ситуация возможна, особенно когда другие члены гру...

Так у него ровно так и происходит. Вот в чем дело. То есть сейчас я смотрю его группу и вижу, что каждый консьюмер читает только 2 разных топика, а не 3, как хотелось бы.

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
2
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
код Event::listen('cms.page.display', function (&$content, $slug, $page, $html) { if (is_object($content)) { dump($content); } else { dump($s...
Point 111
3
Доброе утро, мультиязычные сайты делал кто-нибудь? Какие подводные камни? Нужно чего нибудь допом ставить? Как поступить? В теории сделать две папки ru en и туда кидать страни...
Racoon Mitya
2
Карта сайта