184 похожих чатов

Коллеги, добрый день. Помогите, пожалуйста, объяснить работу CH. Есть простой кластер

CH с двумя шардами cl01, cl02 и машиной zookeeper. Машины CH идентичны.
На каждой из машинах есть таблица сырыми данными логов MergeTree, Distributed таблица над ними и буферные таблицы, которые, в свою очередь надстроены над Distributed таблицей.

Данные заливались в буферные таблицы и в какой-то момент на одном из шардов (cl02) очень быстро закончилось место.

Вероятно, это произошло из-за того, что отвалился зукипер, который был неверно настроен (не удалял логи).
Зукипер настроили, почистили и оставили кластер в покое, отключив заливку данных.

Занятое под данные место на проблемном сервере cl02 стало уменьшаться — за двое суток процент занятого места уменьшился со 100% до 8%.
При этом, что удивительно, количество записей на cl02 осталось прежним, а количество записей на cl01 значительно выросло.

Данные о занятом месте и о количестве записей не меняются уже несколько часов, поэтому можно предположить, что активности с репликацией данных между серверами и слияния кусков закончены.

Я посчитал среднее количество байт на запись и получается, что на одном сервере это 24 байта на запись, а на другом 7 байт на запись.
Как такое возможно?

Выше слепки за вчера и за сегодня, соответственно.

4 ответов

11 просмотров

А зачем в вашей схеме с двумя шардами - зукипер? Он же только для репликации нужен

Ну вообще может быть и мержинг партов, но не объясняет почему есть такой дисбаланс в распределении данных по серверам

Уточните, в конфиге КХ internal_replication включена?

А вы место занятое смотрите в system.parts? Или на диске du-df? Потому что это возможно парты в детачед или в дистрибьютид

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта