Привет 🙂 Начала вылетать ошибка при вставке в Clickhouse "Memory limit

Question

Привет 🙂 Начала вылетать ошибка при вставке в Clickhouse "Memory limit

(total) exceeded: would use 13.82 GiB (attempt to allocate chunk of 4219444 bytes), maximum: 13.81 GiB (version 21.3.14.1 (official build))"
Причем падает как на таблицах с 800 колонками ReplicatedAggregatingMergeTree, так и на других, где 300 колонок. Т.е. как будто бы не количестве колонок дело.
И всегда нехватает прям чуток, т.е. всегда 13.82 GiB из 13.81 GiB, другие цифры в подобных ошибках не встречаются.
Уже дропнул 100 не очень нужных колонок из 800 на одной таблице - ситуация никак не поменялась.
Уменьшил вставляемые пачки, раньше порядка 10Мб улетало за раз, теперь <1Мб - тоже никакого эффекта.

Не подскажете куда копать?

#backend #clickhouse #database #devops #programming #russian

0

01.07.2022

8 ответов

21 просмотр

Mikhail Mayorov Автор вопроса

Константин
а если посмотреть в query_log запрос на вставку, с...

ух ты, не знал про такой. Гляну.

0

01.07.2022

Mikhail Mayorov Автор вопроса

Константин
а если посмотреть в query_log запрос на вставку, с...

да, нашел свалившийся insert ``` +-------------------+-----------------+------------+-------------+-----------+------------+------------+----------+ |query_start_time |query_duration_ms|written_rows|written_bytes|result_rows|result_bytes|memory_usage|query_kind| +-------------------+-----------------+------------+-------------+-----------+------------+------------+----------+ |2022-07-01 01:04:08|0 |0 |0 |0 |0 |0 |Insert | |2022-07-01 01:04:08|688 |17290 |1521520 |17290 |1521520 |1453265509 |Insert | +-------------------+-----------------+------------+-------------+-----------+------------+------------+----------+ insert into table_xxx (ind1, ind2, ind3, f1, f2, f3, f4, f5) FORMAT RowBinary ``` всего 5 колонок на вставку, кроме 3-х индексных полей

0

01.07.2022

Slach [altinity]

тут еще надо понимать что это не конкретно на вашхапрос лимит 13.81Gb а это на все текущие исполняемые запросы лимит 13.81Gb и ваш конкретный упавший запрос может просить всего лишь 100Kb но все равно падать

0

01.07.2022

Evgeniy Sergeev

Mikhail Mayorov
да, нашел свалившийся insert ``` +----------------...

Памяти же занято не 14гб на запрос, а 1.4гб. Или глаза меня подводят

0

01.07.2022

Mikhail Mayorov Автор вопроса

Evgeniy Sergeev
Памяти же занято не 14гб на запрос, а 1.4гб. Или г...

все верно. 1.4гб. Прошелся по всем memory_usage за пару дней. Максимум 3.5гб.

0

01.07.2022