тем медленнее происходит мутация (например MODIFY COLUMN) на одном и том же объеме данных?
Ну это может быть одним из фактором, но все зависит от кол-ва партиций, кол-ва партов внутри партиций, текущей загрузки и т.п.
Понял, спасибо! Может у вас есть что-то почитать на эту тему?
Кликхаус хочет читать из 8 файлов одновременно (дефолтные настройки). Если много партиции, от этого становится много партов, чем больше партов тем больше времени тратить кликхаус на поиск данных из-за этого становится всё дольше
Логично, спасибо!
кол-во мержей одновременных ограниченно кстати, чем больше партиций тем медленее выборка по всем партициям поэтому PARTITION BY toYYYYMMDD(event_date) имеет смысл только если у вас сжатых данных в день больше сотен гигабайт
Спасибо! У нас партиционирование по месяцам и 1 "зависшая" мутация, типа MODIFY COLUMN. Я подумал сперва, что дело в партициях, но теперь подозреваю, что дело в партах внутри какой-то из партиций.
SELECT * FROM system.mutations WHERE is_done=0 FORMAT Vertical
Уже неделю так следим за процессов, пока движение 3 партиции в неделю (из 90) =)
Может модифай сложный ?
int8 -> int16
Думаю тут написать не медленно идёт, а почти не идёт 😂
размер таблицы в сжатом виде на диске? вообще если обычных бекграунд мержей не происходит то вроде таймаут для Mutator background merge - раз в сутки и когда он просывается он смотрит сколько свободных слотов плюс еще места свободного на диске сколько?
Размер таблицы 11 гб Места на диске свободно 100 гб
А у вас много вставок идет? сколько мержей параллельно идет?
У нас 1-10 вставок в 5 минут для всех таблиц (стараемся часто вставки не делать). SELECT * FROM system.merges; Показывает 0.
ну можно попробовать через OPTIMIZE TABL db.table Без FINAL что нибудь стриггерить ну можно попробовать увеличить https://clickhouse.com/docs/en/operations/settings/settings/#background_pool_size еще вот эти две настройки в таблице поменять number_of_free_entries_in_pool_to_execute_mutation number_of_free_entries_in_pool_to_lower_max_size_of_merge оно правда плохо документировано
Спасибо, посмотрю!
Обсуждают сегодня