184 похожих чатов

Коллеги, добрый день. Помогите, пожалуйста, объяснить работу CH. Есть простой кластер

CH с двумя шардами cl01, cl02 и машиной zookeeper. Машины CH идентичны.
На каждой из машинах есть таблица сырыми данными логов MergeTree, Distributed таблица над ними и буферные таблицы, которые, в свою очередь надстроены над Distributed таблицей.

Данные заливались в буферные таблицы и в какой-то момент на одном из шардов (cl02) очень быстро закончилось место.

Вероятно, это произошло из-за того, что отвалился зукипер, который был неверно настроен (не удалял логи).
Зукипер настроили, почистили и оставили кластер в покое, отключив заливку данных.

Занятое под данные место на проблемном сервере cl02 стало уменьшаться — за двое суток процент занятого места уменьшился со 100% до 8%.
При этом, что удивительно, количество записей на cl02 осталось прежним, а количество записей на cl01 значительно выросло.

Данные о занятом месте и о количестве записей не меняются уже несколько часов, поэтому можно предположить, что активности с репликацией данных между серверами и слияния кусков закончены.

Я посчитал среднее количество байт на запись и получается, что на одном сервере это 24 байта на запись, а на другом 7 байт на запись.
Как такое возможно?

Выше слепки за вчера и за сегодня, соответственно.

4 ответов

10 просмотров

А зачем в вашей схеме с двумя шардами - зукипер? Он же только для репликации нужен

Ну вообще может быть и мержинг партов, но не объясняет почему есть такой дисбаланс в распределении данных по серверам

Уточните, в конфиге КХ internal_replication включена?

А вы место занятое смотрите в system.parts? Или на диске du-df? Потому что это возможно парты в детачед или в дистрибьютид

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Карта сайта