Народ, подскажите, пожалуйста, а куда смотреть, что бы разогнать consumer

(увеличит throughput) без добавления новых партиций? К сожалению, confluent cloud не умеет добавлять новые партиции через UI.

Мой кейс следующий: есть consumer, который написан с использованием spring Kafka binder streams. Он читает из топика, делает конвертацию и делает post request на внешний http. У топика одна партиция.

13 ответов

5 просмотров

Сделай ещё один топик с кучей партиций, гони в него, а уже потом делай вюс тяжёлую логику

Taras-Murzenkov Автор вопроса
Rafa ZubraBubra
Сделай ещё один топик с кучей партиций, гони в нег...

Все таки хотелось бы разогнать сам consumer, а потом уже горизонтально скейлиться.

поиграться с размером батча

Taras Murzenkov
Все таки хотелось бы разогнать сам consumer, а пот...

https://medium.com/@vijaya.cigala/consuming-messages-in-batch-mode-in-kafka-using-spring-cloud-stream-kafka-binder-28d782f979cc

Что значит "на лету не умеет"?

Taras-Murzenkov Автор вопроса
Vik Gamov
Что значит "на лету не умеет"?

В UI Confluent Cloud нет опции обновления количества партиций после того как создан новый топик.

Taras-Murzenkov Автор вопроса
Vik Gamov
Так не работает

Что ты имеешь ввиду?

Taras Murzenkov
В UI Confluent Cloud нет опции обновления количест...

А если через cli? https://docs.confluent.io/ccloud-cli/current/command-reference/kafka/topic/ccloud_kafka_topic_update.html

Taras-Murzenkov Автор вопроса
Vik Gamov
А если через cli? https://docs.confluent.io/ccloud...

Не пробовал. Но будет странно, что можно будет через cli обновить количество партиций, но нельзя через web морду.

Taras-Murzenkov Автор вопроса
Vik Gamov
Also, в саппорт писал?

Неа. Пока что руки не дошли до саппорта.

Похожие вопросы

Обсуждают сегодня

Можно ли загрузить скрипт py в бота чтобы он работал по нему? как это сделать?
huskadam #RCC Фанат? @hitlerpvp
13
привет, а расскажите как бэкапите свой vault raft cluster CE? я немного почитал и понял, что нужно как-то выполнять vault operator raft snapshot save backup.snapshot подсовыва...
[DBST] Dmitry Knyazev
5
'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
Ребят, а за скок можно впарить анон чат с апишкой и веб админкой ?
Eugene Неелов
15
Добрый день, не подскажите, если в OC-V3 поменять страндартную директорию /storage/ на /storage2/ - не будет сильно много проблем ?
Max Dubovsky
32
Всем привет! Напишите пожалуйста, кто мог бы оффлайн преподавать некоторые курсы по Odoo в Алматы в одном из ВУЗов? Мы сейчас вместе с Odoo запускаем университетскую программу...
Adil Dauletkhan
2
Ты просто гитлеровскую эстетику плохо понимаешь. Он же всё под Цезаря делал. А это как бы запрещённый приём в политике. Пиджаки они зачем все носят? Чтобы показать что они тип...
Ivan Kropotkin
4
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Добрый день, подскажите как правильно сделать filter в backend-e. Есть модель (товар) у который связь belongsToMany (компания), компаний > 4k, поэтому выборку типа ->all(); н...
Max Dubovsky
7
А как заставить поиск искать? Есть такая формочка <select class="form-control custom-select" name="brand_id" data-handler="onGetBrands"></select>
Денис Александрович
5
Карта сайта