Всем привет! Есть вопрос по пропускной способности у кафки с

одного инстанса продьюсера, а точнее интересует адекватная оценка пропускной способность одного продьюсера в кафке с сообщениями размером ~30кб
Я пользуюсь питоном, aiokafka, используя их бенчмарк я получаю очень скудные результаты

python -m simple_produce_bench -b kafka -s 30000 --topic test --batch-size 200000 --linger-ms 20 --uvloop
Produced 168 messages in 1 second(s). Produced 156 messages in 1 second(s)

Так же я проводил эксперимент, пробуя запустить бенчарм сарамы на го

kafka-producer-performance -brokers=kafka -message-load=20000 -message-size=30000 -topic=test

Я получил порядка 1.5к сообщений в секунду, что тоже выглядит мало.

Из важного, кафка развернута в одного брокера, с 8гб оперативы(Сейчас вот хочу накинуть сверху, но немного неочевидно, почему память должна увеличить пропускную способноть больших сообщений), ssd диски. Тест производиться в топик с одной партицией(пробовал добавлять партиции и если честно не увидел прироста)
Собственно вопрос в том, на какой результат с одного продьюсера стоит ориентироваться? Куда в первую очередь стоит смотреть при испытывании таких проблем? Я подозреваю, что кафка как-то не так законфигурена. Может есть какой-то ультимативный гайд, куда можно посмотреть для ускорения пропускной способности

3 ответов

21 просмотр

сначала вопрос - в 1 секунду включена только отправка сообщений или создание подключения + отправка?

один продюсер в несколько партиций не будет больше слать. для каждой партиции отдельный батч должен быть, а это значит больше запросов при прочих равных. попробуйте тюнить размер батча, он заметно влияет на скорость отправки. за секунду 156 батчей по одному сообщению могли быть в случае питона, к примеру. были бы они по 100-1000 сообщений...

.- Автор вопроса
Василий Калугин
сначала вопрос - в 1 секунду включена только отпра...

В 1 секунду включена только отправка сообщений

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Объясните, пожалуйста, почему компилятор ругается на использование в условии неинициализированной переменной: int x; Task.Run(async () => { x = await somefunc(); }).Wait...
Александр
5
Ребят, подскажите, пожалуйста, почему в префиксе к ассетам, которые генерируются через фильтр | theme в шаблоне, стал вдруг появляться index.php? Вот так выглядит ссылка на а...
Виталий
1
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
4
Блин, ребята, сори за тупые вопросы. А можно ли как-то открыть вебапку по нажатию на кнопку в меню(которое появляется слева, команды)?
Artem Stormageddon
3
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
Коллеги, может знает кто, можно ли цвет бейджа счётчика в BackendMenu менять без бубнов?
Alex Blaze
3
Карта сайта