184 похожих чатов

Всем привет. Я тут новенький, забрел на канал так как

нигде не нашел ответа. Подскажите пожалуйста, какой бест практис для вычитывания из кафки овер 250к в сек месседжей? Сейчас у меня начинаются отставания при превышении 170к/сек, лаг растет. Попробовал увеличить к-во партиций с 8 до 16и + kafka_num_consumers, не помогло. Поднимать реплику рядом и на ней паралельно вешать консьюмер?

по dstat наблюдают переодические подъемы сетевого трафика до максимума скорости интерфейса и снова простой, запись на диск еще реже, раз в 5сек около 50-80мб запись и простой. ЦПУ также не занят. Это может быть связано с пределом скорости insert'ов ?

заранее спасибо за ответы.

2 ответов

7 просмотров

А если просто читать из кафки (без записи) то читает over 250k? Просто чтобы понять где тормозит.. кафка не отдаёт или CH не успевает. Помоему скорость чтения из кафки скейлится увеличением партиций (а не топиков).

придется делать несколько kafka= Engine таблиц, которые читают один и тот же топик с одной группой и через свое MV пишут в одну и туже таблицу TO

Похожие вопросы

Обсуждают сегодня

Какой-то там пердун в 90-х решил, что есть какая-то разная типизация. Кого вообще это волнует?
КТ315
49
void terminal_scroll() { memmove(terminal_buffer, terminal_buffer + VGA_WIDTH, buffer_size - VGA_WIDTH); memset(terminal_buffer + buffer_size - VGA_WIDTH, 0, VGA_WIDTH); ...
Егор
47
Всем привет! Подскажите, пожалуйста, в чем ошибка? Настраиваю подключение к MySQL. Либы лежат рядом с exe. Все как по "учебнику"
Евгений
16
А можете как-то проверить меня по знаниям по ассемблеру?
A A
132
Здравствуйте! У меня появилась возможность купить книгу "Изучай Haskell во имя добра!". Но я где-то слышал, что эта книга устарела. Насколько это правда??
E
22
Здравствуйте! Я вот на stepic решаю задачи на хаскеле https://stepik.org/lesson/8443/step/8?unit=1578 мой код import Data.List (isInfixOf) removing :: String -> [String] ->...
E
10
Камрады, кто тесно работал с vtv, хотел уточнить. Ширина column задаётся жёстко на этапе создания дерева или можно в рантайме ее менять программно (не мышкой)?
Ed Doc
10
да ладно ... что там неочевидного ? глянуть в исх-ки датасета и/или кверика чтобы понять в каком месте и как выполняется обращения к св-вам blablaSQL - минутное дело, даже е...
Сергей
7
Здесь для arm кто-нибудь кодит ?
Nothing
52
Всем привет, у меня есть сервер принимающий входящие HTTP подключения, как проверить, что подключение было через прокси или нет, есть какие то поля в заголовках по которым мо...
Кибер Бомж
8
Карта сайта