Тоже залечу со своей проблемой: Для юзера выделено 64ГБ оперативки, max_bytes_before_external_group_by

Question

Тоже залечу со своей проблемой: Для юзера выделено 64ГБ оперативки, max_bytes_before_external_group_by

и max_bytes_before_external_sort выставлены по 21ГБ. Запускаю в параллель два запроса: 1. агрегация большой таблицы с последующим инсертом; 2. сортировка большой таблицы. Через некоторое время оба этих запроса падают по Memory limit (for user) exceeded (если запустить три сортировки из 2 запроса одновременно, то они отрабатывают нормально). Как я понимаю, происходит следующее: 2 запрос занимает положенные ему <=21ГБ, а 1 запрос занимает слишком много оперативки для чтения данных (например, 50ГБ), отчего оба запроса падают.
Вопрос: есть ли какой-то параметр, которым можно ограничить максимально занимаемое в оперативке место на чтение? Например, загрузились блоки на 20ГБ и пока они не обработаются, новые блоки в оперативку подгружаться не будут.

#backend #clickhouse #database #devops #programming #russian

0

11.12.2020

12 ответов

9 просмотров

Михаил Жиляков Автор вопроса

Denny [Altinity]
max_threads =5

Нет, это не помогает. Я обнаружил, что у меня эти запросы в принципе не могут одновременно пролезть в оперативку (условно, для юзера доступно только 17ГБ, а оба запроса вместе жрут 20ГБ). Есть ли какой-то способ, как можно запросами мониторить, сколько и на что юзер потребляет оперативки? Нашел в Яндекс.Облаке вот такой дашборд, но хотелось бы посмотреть на потребление оперативки в разрезе юзеров, чтобы как-нибудь жонглировать квотами на юзеров/запросы/кэширование и т.д.

0

11.12.2020

Denny [Altinity]

Михаил Жиляков

Нет, это не помогает. Я обнаружил, что у меня эти ...

готового нет. только select ... from system.processes group by user

0

11.12.2020

Михаил Жиляков Автор вопроса

Denny [Altinity]
готового нет. только select ... from system.proces...

select ... from system.processes показывает только потребление памяти запросами, а она еще расходуется на всякие кеши, хранение ключей и т.д. Вообще, хотелось бы полный список видеть, на что и сколько уходит оперативка, чтобы высчитывать, сколько ее осталось свободной на новый запрос... Но этого я нигде не нашел

0

11.12.2020

Denny [Altinity]

Михаил Жиляков
select ... from system.processes показывает только...

SELECT * FROM asynchronous_metrics WHERE metric LIKE '%MemoryVirtual%' -- доступно select * from metrics where metric like 'MemoryTracking' -- использовано

0

11.12.2020

Volodymyr Bunchuk

Denny [Altinity]
SELECT * FROM asynchronous_metrics WHERE metric LI...

Хм, не вижу ’MemoryTracking’

0

11.12.2020

Denny [Altinity]

Volodymyr Bunchuk

Хм, не вижу ’MemoryTracking’

старый у вас КХ, это с 20.9 наверное

0

11.12.2020

Volodymyr Bunchuk

Denny [Altinity]
старый у вас КХ, это с 20.9 наверное

20.10

0

11.12.2020

Denny [Altinity]

Volodymyr Bunchuk
20.10

так таблица не та

0

11.12.2020

Михаил Жиляков Автор вопроса

Denny [Altinity]
SELECT * FROM asynchronous_metrics WHERE metric LI...

Спасибо, на кое-какие мысли меня это навело!) Правда, насколько я понимаю, SELECT * FROM asynchronous_metrics WHERE metric LIKE '%MemoryVirtual%' — это про доступное место на диске для хранение, а не про оперативку

0

11.12.2020

Ivan Kalinin

Михаил Жиляков
Спасибо, на кое-какие мысли меня это навело!) Прав...

нет, это про виртуальную память https://en.wikipedia.org/wiki/Virtual_memory

0

11.12.2020

Denny [Altinity]

Михаил Жиляков
Спасибо, на кое-какие мысли меня это навело!) Прав...

разве? А у вас своп есть? MemoryVirtual │ 55 092 850 688 MemoryDataAndStack │ 54 464 454 656 Filesystem Size Used Avail Use% Mounted on /dev/md0 938G 236G 655G 27% / free -h total used free shared buff/cache available Mem: 62Gi 30Gi 22Gi 164Mi 9.6Gi 31Gi Swap: 63Gi 3.2Gi 60Gi less /var/log/clickhouse-server/clickhouse-server.log ... Application: Setting max_server_memory_usage was set to 56.53 GiB (62.81 GiB available * 0.90 max_server_memory_usage_to_ram_ratio)

0

11.12.2020

Denny [Altinity] · Accepted Answer

Denny [Altinity]

max_threads =5

0

11.12.2020

184 похожих чатов

Тоже залечу со своей проблемой: Для юзера выделено 64ГБ оперативки, max_bytes_before_external_group_by

12 ответов

Похожие вопросы