Всем привет! Подскажите пожалуйста может кто-то сталкивался. После обновления с 21.5 на

Question

Всем привет! Подскажите пожалуйста может кто-то сталкивался. После обновления с 21.5 на

22.5 в КХ начала течь память.
Пишем данные в основном через Kafka-engine + MatView.
Если ребутнуть кх — память освобождается. Но потом все равно поддтекает.
На скриншоте выборка из system.asynchronous_metrics до и после ребута КХ.

Кто-то знает как вылечить?

#backend #clickhouse #database #devops #programming #russian

0

27.06.2022

18 ответов

13 просмотров

Denny [Altinity]

я вижу resident 6GB и все не вижу течь

0

27.06.2022

Denny [Altinity]

это другая проблема, какая версия КХ ? https://github.com/ClickHouse/ClickHouse/issues/32750

0

27.06.2022

Vladimir

Denny [Altinity]
это другая проблема, какая версия КХ ? https://git...

clickhouse-client -V ClickHouse client version 21.8.14.5 (official build). clickhouse-server -V ClickHouse server version 21.8.14.5 (official build).

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Denny [Altinity]
я вижу resident 6GB и все не вижу течь

в графане такая картина

0

27.06.2022

Denny [Altinity]

Vladimir
clickhouse-client -V ClickHouse client version 21....

это починено только в 22

0

27.06.2022

Denny [Altinity]

Volodymyr Bunchuk

в графане такая картина

это ничего не доказывает. Просто кафка раньше использовала 1ГБ, после 21.12 улучшили, она стала использовать 20ГБ.

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Denny [Altinity]
это ничего не доказывает. Просто кафка раньше испо...

имеете в виду что для нормального использования Kafka-engine нужно больше 20Gb ?

0

27.06.2022

Denny [Altinity]

Volodymyr Bunchuk
имеете в виду что для нормального использования K...

https://clickhouse.com/docs/en/operations/tips/#ram If your system has less than 16 GB of RAM, you may experience various memory exceptions because default settings do not match this amount of memory. The recommended amount of RAM is 32 GB or more.

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Denny [Altinity]
https://clickhouse.com/docs/en/operations/tips/#ra...

мы планировали переезд делать и на новом кластере (2x2) поставили 22.3 c 256Gb Ram Там потребление до 130Gb расло, пока не откатились

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Volodymyr Bunchuk
мы планировали переезд делать и на новом кластере ...

0

27.06.2022

Denny [Altinity]

Volodymyr Bunchuk
мы планировали переезд делать и на новом кластере ...

detach table kafka_engine_table уменьшает потребление памяти?

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Volodymyr Bunchuk
мы планировали переезд делать и на новом кластере ...

поэтому предполагаю что 32гб может не помочь

0

27.06.2022

Volodymyr Bunchuk Автор вопроса

Denny [Altinity]
detach table kafka_engine_table уменьшает потребле...

не пробовал попробую

0

27.06.2022

Denny [Altinity]

Volodymyr Bunchuk
поэтому предполагаю что 32гб может не помочь

вы 148й кто крошит батон на кафка engine про memory leak , проблема в том что мы не можем это воспроизвести и поэтому не можем починить. недавно наш клиент пришел с такой же проблемой, я даже обрадовался, вот думаю наконец-то сможем расковырять лик в kafka и 22.5, ан нет, оказалось у них словарь был cached с большим кешем

0

27.06.2022

Dmitry [Altinity] Titov

Denny [Altinity]
вы 148й кто крошит батон на кафка engine про memor...

https://github.com/ClickHouse/ClickHouse/pull/35973 Вроде Миша поправил? (емнип кому то из клиентов помогло)

0

27.06.2022

Denny [Altinity]

Dmitry [Altinity] Titov
https://github.com/ClickHouse/ClickHouse/pull/3597...

это починено в 22.3, а тут говорят что 22.3 течет и После обновления с 21.5 на 22.5 в КХ начала течь память.

0

27.06.2022