184 похожих чатов

Всем привет. Я тут новенький, забрел на канал так как

нигде не нашел ответа. Подскажите пожалуйста, какой бест практис для вычитывания из кафки овер 250к в сек месседжей? Сейчас у меня начинаются отставания при превышении 170к/сек, лаг растет. Попробовал увеличить к-во партиций с 8 до 16и + kafka_num_consumers, не помогло. Поднимать реплику рядом и на ней паралельно вешать консьюмер?

по dstat наблюдают переодические подъемы сетевого трафика до максимума скорости интерфейса и снова простой, запись на диск еще реже, раз в 5сек около 50-80мб запись и простой. ЦПУ также не занят. Это может быть связано с пределом скорости insert'ов ?

заранее спасибо за ответы.

2 ответов

11 просмотров

А если просто читать из кафки (без записи) то читает over 250k? Просто чтобы понять где тормозит.. кафка не отдаёт или CH не успевает. Помоему скорость чтения из кафки скейлится увеличением партиций (а не топиков).

придется делать несколько kafka= Engine таблиц, которые читают один и тот же топик с одной группой и через свое MV пишут в одну и туже таблицу TO

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта