Вопрос. ЗК работает на виртуалках, и соответственно иногда диски начинают

Question

Вопрос. ЗК работает на виртуалках, и соответственно иногда диски начинают

тормозить у некоторых. Статистически тормоза ИО меж серверами разбросаны. ИО ЗК серверов контролировать нет возможности. В результате отваливается КХ и тормозят вставки/накапливаются парты.
Есть вариант в ЗК поставить 5 серверов но после того как fsync прошел на трех (минимум кворум) отдавать ответ обратно? а то latency высокий получается.

#backend #clickhouse #database #devops #programming #russian

0

08.12.2020

13 ответов

3 просмотра

【D】【J】 Автор вопроса

"mntr:zk_znode_count": 1112378, ещё такой вопрос, как уменьшить нагрузку на ЗК? и количество нодов?

0

09.12.2020

【D】【J】 Автор вопроса

Slach [altinity]
вставлять большими пачками, чтобы меньше партов в ...

ну они и так уже больше некуда... я так понял дело в этом: https://github.com/ClickHouse/ClickHouse/issues/3322 есть какой нить умный ручной скрипт очистки у добрых людей? =)

0

09.12.2020

【D】【J】 Автор вопроса

Slach [altinity]
вставлять большими пачками, чтобы меньше партов в ...

ещё интересный вопрос... основной плюс от ин-мемори партов - возможность вставлять мелко. Получается это преимущество нивелируется этой проблемой. Либо можно запрещать репликацию ин-мемори партов/партов до определенного размера таймаута (вроде это было, но не могу найти нужный сеттинг)

0

09.12.2020

Denny [Altinity]

【D】【J】
ещё интересный вопрос... основной плюс от ин-мемор...

нет, парты не создают этой проблемы, только drop partition

0

09.12.2020

【D】【J】 Автор вопроса

Denny [Altinity]
нет, парты не создают этой проблемы, только drop p...

ок, т.е. вставки мелкими или большими партами не портят ЗК (при условии что успевают мерджится)?

0

09.12.2020

【D】【J】 Автор вопроса

Denny [Altinity]
нет, парты не создают этой проблемы, только drop p...

ну у вас же есть гист для автоочистки? =)

0

09.12.2020

Denny [Altinity]

【D】【J】
ну у вас же есть гист для автоочистки? =)

нету. У вас мелкие партиции и постоянно идет drop partition ? https://github.com/ClickHouse/ClickHouse/issues/3322 не сильно большая проблема

0

09.12.2020

【D】【J】 Автор вопроса

Denny [Altinity]
нету. У вас мелкие партиции и постоянно идет drop ...

да

0

09.12.2020

【D】【J】 Автор вопроса

Denny [Altinity]
нету. У вас мелкие партиции и постоянно идет drop ...

[user@host data01]$ grep block_numbers znodes.txt | wc -l 387984 35% от всего количества знодов примерно (10% примерно существуют в виде партиций, остальное старое)

0

09.12.2020

Denny [Altinity]

【D】【J】
[user@host data01]$ grep block_numbers znodes.txt ...

там наверное 90% block_numbers для существующих партиций

0

09.12.2020

【D】【J】 Автор вопроса

Denny [Altinity]
там наверное 90% block_numbers для существующих па...

нет, он вообще не удаляет, накопилось

0

09.12.2020