нигде не нашел ответа. Подскажите пожалуйста, какой бест практис для вычитывания из кафки овер 250к в сек месседжей? Сейчас у меня начинаются отставания при превышении 170к/сек, лаг растет. Попробовал увеличить к-во партиций с 8 до 16и + kafka_num_consumers, не помогло. Поднимать реплику рядом и на ней паралельно вешать консьюмер?
по dstat наблюдают переодические подъемы сетевого трафика до максимума скорости интерфейса и снова простой, запись на диск еще реже, раз в 5сек около 50-80мб запись и простой. ЦПУ также не занят. Это может быть связано с пределом скорости insert'ов ?
заранее спасибо за ответы.
А если просто читать из кафки (без записи) то читает over 250k? Просто чтобы понять где тормозит.. кафка не отдаёт или CH не успевает. Помоему скорость чтения из кафки скейлится увеличением партиций (а не топиков).
придется делать несколько kafka= Engine таблиц, которые читают один и тот же топик с одной группой и через свое MV пишут в одну и туже таблицу TO
Обсуждают сегодня