Всем привет! Есть вопрос по пропускной способности у кафки с

одного инстанса продьюсера, а точнее интересует адекватная оценка пропускной способность одного продьюсера в кафке с сообщениями размером ~30кб
Я пользуюсь питоном, aiokafka, используя их бенчмарк я получаю очень скудные результаты

python -m simple_produce_bench -b kafka -s 30000 --topic test --batch-size 200000 --linger-ms 20 --uvloop
Produced 168 messages in 1 second(s). Produced 156 messages in 1 second(s)

Так же я проводил эксперимент, пробуя запустить бенчарм сарамы на го

kafka-producer-performance -brokers=kafka -message-load=20000 -message-size=30000 -topic=test

Я получил порядка 1.5к сообщений в секунду, что тоже выглядит мало.

Из важного, кафка развернута в одного брокера, с 8гб оперативы(Сейчас вот хочу накинуть сверху, но немного неочевидно, почему память должна увеличить пропускную способноть больших сообщений), ssd диски. Тест производиться в топик с одной партицией(пробовал добавлять партиции и если честно не увидел прироста)
Собственно вопрос в том, на какой результат с одного продьюсера стоит ориентироваться? Куда в первую очередь стоит смотреть при испытывании таких проблем? Я подозреваю, что кафка как-то не так законфигурена. Может есть какой-то ультимативный гайд, куда можно посмотреть для ускорения пропускной способности

3 ответов

10 просмотров

сначала вопрос - в 1 секунду включена только отправка сообщений или создание подключения + отправка?

один продюсер в несколько партиций не будет больше слать. для каждой партиции отдельный батч должен быть, а это значит больше запросов при прочих равных. попробуйте тюнить размер батча, он заметно влияет на скорость отправки. за секунду 156 батчей по одному сообщению могли быть в случае питона, к примеру. были бы они по 100-1000 сообщений...

.- Автор вопроса
Василий Калугин
сначала вопрос - в 1 секунду включена только отпра...

В 1 секунду включена только отправка сообщений

Похожие вопросы

Обсуждают сегодня

Ребят, а за скок можно впарить анон чат с апишкой и веб админкой ?
Eugene Неелов
15
Ты просто гитлеровскую эстетику плохо понимаешь. Он же всё под Цезаря делал. А это как бы запрещённый приём в политике. Пиджаки они зачем все носят? Чтобы показать что они тип...
Ivan Kropotkin
4
Добрый день, подскажите как правильно сделать filter в backend-e. Есть модель (товар) у который связь belongsToMany (компания), компаний > 4k, поэтому выборку типа ->all(); н...
Max Dubovsky
7
А цены чем оправданы?
Lencore
7
'frakturBold' => ['𝖆', '𝖇', '𝖈', '𝖉', '𝖊', '𝖋', '𝖌', '𝖍', '𝖎', '𝖏', '𝖐', '𝖑', '𝖒', '𝖓', '𝖔', '𝖕', '𝖖', '𝖗', '𝖘', '𝖙', '𝖚', '𝖛', '𝖜', '𝖝', '𝖞', '𝖟', '𝕬', '𝕭', '𝕮', '𝕯'...
Roma
4
Добрый день, не подскажите, если в OC-V3 поменять страндартную директорию /storage/ на /storage2/ - не будет сильно много проблем ?
Max Dubovsky
32
Каким то образом можно определить ширину экрана пользователя перед загрузкой partial-а? Надо рассчитать ширину кадров слайдера для ресайза картинок для container-fluid.
Point 111
22
Всем привет. Нужна платная консультация от тех, кто сталкивался с октябрём в кластере или шарит оч хорошо в цмс. Проблема следующая: после переноса в кластер октябрь начал ...
wl
8
а я честно сказать не понимаю - нахуя идти учиться на вышку или еще куда-либо и при этом нихуя не делать, типа зачем ? просто корку получить, а нахуй она нужна тогда ?
Eugene Неелов
7
А сколько часов мак держит зарядку в рабочем режиме? Например мой Redmi Mac (просто наклейка от айфона осталась, налепил) по началу держал часов 5 с парой открытых штормов и ...
Ross
8
Карта сайта