184 похожих чатов

Добрый день. Подскажите, пожалуйста, как работает вставка из топика через

MV в следующем случае.
Имеется топик с 50 партициями(партиции с ключом) и 1 хост CLickhouse. Ключ сортировки в целевой таблице соответствует по префиксу ключу партициирования в Kafka.
Если создаю kafka engine с количеством consumer-ов 1, как будут формироваться блоки для вставки?
И как будет работать вставка и параметр max_insert_block_size, для каждого из Consumer-ов, если их больше 1?

5 ответов

16 просмотров

ну вообще никак не учитывается, и не будет учитываться ваш ключ партиций. Чего хотелось-то? max_insert_block_size на кафку уже давно не влияет, там др. параметры.

Alexey- Автор вопроса
Denny [Altinity]
ну вообще никак не учитывается, и не будет учитыва...

В партициях кафки по факту отсортированные по order by данные. Думал можно ли это как-то использовать, чтобы количество слияний уменьшить и их облегчить.

Alexey
В партициях кафки по факту отсортированные по orde...

слияния не сортируют данные, кол-во слияний зависит от того как часто флашатся данные из топика. Это настраивается параметрами кафки. То что данные уже отсортированы инсерт видит по самим сортированным данным (не нужны никакие подзказки), и использует это.

Alexey- Автор вопроса
Denny [Altinity]
слияния не сортируют данные, кол-во слияний завис...

Спасибо. Только вот про параметры не понял, в последней доке они есть. Я понял для себя по итогу, что max_insert_block_size, stream_flush_interval_ms влияют на то каков будет размер вставляемого блока в таблицу, а на то как этот блок сформирует consumer можно повлиять через расширенную конфигурацию librdkafka.

Alexey
Спасибо. Только вот про параметры не понял, в посл...

kafka_max_block_size: Number of rows collected by poll(s) for flushing data from Kafka вот тут посмотрите https://github.com/ClickHouse/ClickHouse/pull/11388 доку не обновляли скорее всего

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта