Возник вопрос. Точнее меня разработчик спрашивает. 3 топика по три

партиции, 3 консьюмера, 1 группа. Каждый взял по три партиции, но с "перекосом" по топикам - то есть условно один консьюмер читает только один топик, а два других поделили между собой еще два топика. В целом я считаю, что консьюмеры и не обязаны в рамках одной группы делить меду собой топики, только партиции по сути. Поэтому и перекос. Если хочешь чтобы каждый консьюмер читал только одну партицию из топика - нужно делать три группы, а не одну на все три топика. Но не могу найти подтверждение документальное этому. Может кто-то подсказать прав я или нет и ткнуть носом в теорию? Каюсь - не смог нагуглить.

10 ответов

11 просмотров
Ivgenich- Автор вопроса

Точнее даже придется делать не 3, а 9 консьюмеров по три на топик с разными группами.

ещё подсвети какое поведение хотелось бы достичь и почему текущее повведение - не устраивает

Имеет смысл рассматривать набор пар топик-группа. Поведение группы имеет смысл рассматривать только в разрезе 1 топика. 1 группа может быть на разных топиках.

Ivgenich- Автор вопроса
Максим
ещё подсвети какое поведение хотелось бы достичь и...

У него три топика разного веса и он очень хочет равномерно нагружать консьюмеры. Чтобы не было такого, что один читает самый тяжелый топик и процессит данные, а другие два читают лайтовые.

Ivgenich
У него три топика разного веса и он очень хочет ра...

топики разного веса, понял проблему теперь

Ivgenich- Автор вопроса
Alexander Fedyukov
Имеет смысл рассматривать набор пар топик-группа. ...

Ну вот я и объяснил ему, что если хочет баланс - одна группа на топик должна быть. Иначе всегда будет перекос по топикам.!

Ivgenich
Ну вот я и объяснил ему, что если хочет баланс - о...

Какой перекос? Распределение партиций идет внутри одного топика независимо от соседнего топика.

Ivgenich- Автор вопроса
Alexander Fedyukov
Какой перекос? Распределение партиций идет внутри ...

В рамках одной группы три топика по три партиции не распределяются у него равномерно по консьюмерам. У каждого консьбмера ровно три партиции. Но не у каждого консюмера три топика. То есть может быть ситуация, что один консьюмер будет читать три партиции и все из одного топика.

Ivgenich
В рамках одной группы три топика по три партиции н...

Ситуация возможна, особенно когда другие члены группы недоступны. Но есть механизм балансировки, который позволяет избегать подбных ситуаций. Иначе может получиться, что обработка сообщений из 1 топика станет заложником одного гнилого консюмера.

Ivgenich- Автор вопроса
Alexander Fedyukov
Ситуация возможна, особенно когда другие члены гру...

Так у него ровно так и происходит. Вот в чем дело. То есть сейчас я смотрю его группу и вижу, что каждый консьюмер читает только 2 разных топика, а не 3, как хотелось бы.

Похожие вопросы

Обсуждают сегодня

Почему Telegram пишет, что объект media не найден, хотя на самом деле я его передаю? Делаю на urllib, без зависимостей, так надо. Вызываю метод sendMediaGroup с таким JSON: ...
Alexey S
1
Сonst magicTgHTML = (text, entities) => { let processedText = text; let offsetShift = 0; entities.forEach(entity => { const { offset, length, type, url, ...
Андрей
1
Чет мне ссыкотно опять Rainlab.User в проект ставить. Кто знает, опять наотъебись все сделали или после обнов пользоваться можно?
Black Cat
10
ребят, привет есть ли возможность мигрировать Policies + Auth Methods из нескольких Vault в один? пытаюсь сократить Vault кластера, немного не удобно что для каждой тестовой ...
azadevlab
2
коллеги привет. уже второй день бьемся об заклад с одной ошибкой, может вы сталкивались с таки странным поведением? есть тестовый сервер, на который паблишим релизную версию W...
Magzhan
11
это группа токсиков или тех кто помогает?
Ибрагим
9
В смысле более затратная? Общая стоимость владения лошадью меньше, чем автомобиля. В среднем.
Sergej R
10
Загрузил на свой сервер, теперь обычные прямые ссылки без query параметров и возможных ограничений, всё равно та же ошибка. Неужели скачивать из VK и перезаливать в TG кажд...
Alexey S
2
Кстати, раз про скачивание файлов разговор зашел) Сделал бота для себя (транскрибирующего и суммаризирующего встречи) но не ожидал что за 2 месяца 10к пользователей набежит😅...
Andrey Obolenskiy
8
Можете помочь с этим, я тут использую Джанго как ОРМ для бота, но бот запускать не хочет, уже всезде перерыл не могу решить, может кто то сталкивался?
Ибрагим
4
Карта сайта