184 похожих чатов

Всем привет! Подскажите, пожалуйста, верно ли, что чем больше число партиций,

тем медленнее происходит мутация (например MODIFY COLUMN) на одном и том же объеме данных?

17 ответов

6 просмотров

Ну это может быть одним из фактором, но все зависит от кол-ва партиций, кол-ва партов внутри партиций, текущей загрузки и т.п.

Vladimir-Klimov Автор вопроса
sdev E
Ну это может быть одним из фактором, но все зависи...

Понял, спасибо! Может у вас есть что-то почитать на эту тему?

Кликхаус хочет читать из 8 файлов одновременно (дефолтные настройки). Если много партиции, от этого становится много партов, чем больше партов тем больше времени тратить кликхаус на поиск данных из-за этого становится всё дольше

кол-во мержей одновременных ограниченно кстати, чем больше партиций тем медленее выборка по всем партициям поэтому PARTITION BY toYYYYMMDD(event_date) имеет смысл только если у вас сжатых данных в день больше сотен гигабайт

Vladimir-Klimov Автор вопроса
Slach [altinity]
кол-во мержей одновременных ограниченно кстати, ч...

Спасибо! У нас партиционирование по месяцам и 1 "зависшая" мутация, типа MODIFY COLUMN. Я подумал сперва, что дело в партициях, но теперь подозреваю, что дело в партах внутри какой-то из партиций.

Vladimir-Klimov Автор вопроса
Slach [altinity]
SELECT * FROM system.mutations WHERE is_done=0 FOR...

Уже неделю так следим за процессов, пока движение 3 партиции в неделю (из 90) =)

Думаю тут написать не медленно идёт, а почти не идёт 😂

Vladimir Klimov
Уже неделю так следим за процессов, пока движение ...

размер таблицы в сжатом виде на диске? вообще если обычных бекграунд мержей не происходит то вроде таймаут для Mutator background merge - раз в сутки и когда он просывается он смотрит сколько свободных слотов плюс еще места свободного на диске сколько?

Vladimir-Klimov Автор вопроса
Slach [altinity]
размер таблицы в сжатом виде на диске? вообще если...

Размер таблицы 11 гб Места на диске свободно 100 гб

Vladimir Klimov
Размер таблицы 11 гб Места на диске свободно 100 г...

А у вас много вставок идет? сколько мержей параллельно идет?

Vladimir-Klimov Автор вопроса
Dmitry [Altinity] Titov
А у вас много вставок идет? сколько мержей паралл...

У нас 1-10 вставок в 5 минут для всех таблиц (стараемся часто вставки не делать). SELECT * FROM system.merges; Показывает 0.

Vladimir Klimov
Размер таблицы 11 гб Места на диске свободно 100 г...

ну можно попробовать через OPTIMIZE TABL db.table Без FINAL что нибудь стриггерить ну можно попробовать увеличить https://clickhouse.com/docs/en/operations/settings/settings/#background_pool_size еще вот эти две настройки в таблице поменять number_of_free_entries_in_pool_to_execute_mutation number_of_free_entries_in_pool_to_lower_max_size_of_merge оно правда плохо документировано

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта