Возник вопрос. Точнее меня разработчик спрашивает. 3 топика по три

партиции, 3 консьюмера, 1 группа. Каждый взял по три партиции, но с "перекосом" по топикам - то есть условно один консьюмер читает только один топик, а два других поделили между собой еще два топика. В целом я считаю, что консьюмеры и не обязаны в рамках одной группы делить меду собой топики, только партиции по сути. Поэтому и перекос. Если хочешь чтобы каждый консьюмер читал только одну партицию из топика - нужно делать три группы, а не одну на все три топика. Но не могу найти подтверждение документальное этому. Может кто-то подсказать прав я или нет и ткнуть носом в теорию? Каюсь - не смог нагуглить.

10 ответов

27 просмотров
Ivgenich- Автор вопроса

Точнее даже придется делать не 3, а 9 консьюмеров по три на топик с разными группами.

ещё подсвети какое поведение хотелось бы достичь и почему текущее повведение - не устраивает

Имеет смысл рассматривать набор пар топик-группа. Поведение группы имеет смысл рассматривать только в разрезе 1 топика. 1 группа может быть на разных топиках.

Ivgenich- Автор вопроса
Максим
ещё подсвети какое поведение хотелось бы достичь и...

У него три топика разного веса и он очень хочет равномерно нагружать консьюмеры. Чтобы не было такого, что один читает самый тяжелый топик и процессит данные, а другие два читают лайтовые.

Ivgenich
У него три топика разного веса и он очень хочет ра...

топики разного веса, понял проблему теперь

Ivgenich- Автор вопроса
Alexander Fedyukov
Имеет смысл рассматривать набор пар топик-группа. ...

Ну вот я и объяснил ему, что если хочет баланс - одна группа на топик должна быть. Иначе всегда будет перекос по топикам.!

Ivgenich
Ну вот я и объяснил ему, что если хочет баланс - о...

Какой перекос? Распределение партиций идет внутри одного топика независимо от соседнего топика.

Ivgenich- Автор вопроса
Alexander Fedyukov
Какой перекос? Распределение партиций идет внутри ...

В рамках одной группы три топика по три партиции не распределяются у него равномерно по консьюмерам. У каждого консьбмера ровно три партиции. Но не у каждого консюмера три топика. То есть может быть ситуация, что один консьюмер будет читать три партиции и все из одного топика.

Ivgenich
В рамках одной группы три топика по три партиции н...

Ситуация возможна, особенно когда другие члены группы недоступны. Но есть механизм балансировки, который позволяет избегать подбных ситуаций. Иначе может получиться, что обработка сообщений из 1 топика станет заложником одного гнилого консюмера.

Ivgenich- Автор вопроса
Alexander Fedyukov
Ситуация возможна, особенно когда другие члены гру...

Так у него ровно так и происходит. Вот в чем дело. То есть сейчас я смотрю его группу и вижу, что каждый консьюмер читает только 2 разных топика, а не 3, как хотелось бы.

Похожие вопросы

Обсуждают сегодня

Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Привет!) Кто как юзает переменные в строках?) Чисто ради интереса Вот так: echo "У меня {$bananasAmount} бананов"; Или вот так: echo "У меня ${bananasAmount} бананов";
Виталий
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
разработчик ботов скидывает портфолио, боты которые он уже создал. А вот как узнать что это именно он их создал?
Gosudar
4
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Карта сайта