что с увеличением количества данных в хранилище растет потребление оперативной памяти (практически линейно). Подскажите, какие есть общепринятые практики оптимизации потребления оперативки? Мб ограничение и увеличение размера инсерта, партиционирование и т.д.
Не хотелось бы удалять данные, пусть даже старые.
А можно узнать ваши объемы данных
всего в БД 2 ГБ, данные приходят из разных источников и используются для разных целей. Для организации ЕТЛ используются матвью, а также кастомные скрипты запускаемые по расписанию (по большей части это SQL запросы, которые нужно запускать по расписанию). Гранулярность сырых данных 1 минута. Данных немного, а ест 16ГБ оперативки почти полностью.
Клик съест все, что найдет. Это нормально.
Это было бы нормально, если бы он так с самого начала ел, но он на протяжении 2х месяцев равномерно увеличивал потребление. Запросы стали сильно тормозить
Ну у вас же рост количества данных, смотрите что расходует память, оптимизируйте
да это понятно, я как раз для этого и спросил про общепринятые практики оптимизации хранилища. Я не сильно глубоко в клихаусе пока что
А как вы посчитали 2гб ?
SELECT formatReadableSize(sum(bytes)) as size FROM system.parts WHERE active;
Ну так, а сколько клик говорит не в сжатом виде ?
Обсуждают сегодня