партиции, 3 консьюмера, 1 группа. Каждый взял по три партиции, но с "перекосом" по топикам - то есть условно один консьюмер читает только один топик, а два других поделили между собой еще два топика. В целом я считаю, что консьюмеры и не обязаны в рамках одной группы делить меду собой топики, только партиции по сути. Поэтому и перекос. Если хочешь чтобы каждый консьюмер читал только одну партицию из топика - нужно делать три группы, а не одну на все три топика. Но не могу найти подтверждение документальное этому. Может кто-то подсказать прав я или нет и ткнуть носом в теорию? Каюсь - не смог нагуглить.
Точнее даже придется делать не 3, а 9 консьюмеров по три на топик с разными группами.
ещё подсвети какое поведение хотелось бы достичь и почему текущее повведение - не устраивает
Имеет смысл рассматривать набор пар топик-группа. Поведение группы имеет смысл рассматривать только в разрезе 1 топика. 1 группа может быть на разных топиках.
У него три топика разного веса и он очень хочет равномерно нагружать консьюмеры. Чтобы не было такого, что один читает самый тяжелый топик и процессит данные, а другие два читают лайтовые.
топики разного веса, понял проблему теперь
Ну вот я и объяснил ему, что если хочет баланс - одна группа на топик должна быть. Иначе всегда будет перекос по топикам.!
Какой перекос? Распределение партиций идет внутри одного топика независимо от соседнего топика.
В рамках одной группы три топика по три партиции не распределяются у него равномерно по консьюмерам. У каждого консьбмера ровно три партиции. Но не у каждого консюмера три топика. То есть может быть ситуация, что один консьюмер будет читать три партиции и все из одного топика.
Ситуация возможна, особенно когда другие члены группы недоступны. Но есть механизм балансировки, который позволяет избегать подбных ситуаций. Иначе может получиться, что обработка сообщений из 1 топика станет заложником одного гнилого консюмера.
Так у него ровно так и происходит. Вот в чем дело. То есть сейчас я смотрю его группу и вижу, что каждый консьюмер читает только 2 разных топика, а не 3, как хотелось бы.
Обсуждают сегодня