184 похожих чатов

Решил склеить у себя несколько мелких таблиц в одну большую.

Данные приходят из разных источников и где-то идут нормальными для КХ пачками по 100к записей раз в 2 секунды, а где-то буквально по 50 записей в сутки. Соответственно, думаю запустить их через общий буфер.

В связи с этим пара вопросов:
1. Я правильно понимаю, что Buffer хранит внутри себя только ещё не записанные в целевую таблицу данные, во все остальные моменты пустой, а при селектах из него просто показывает данные из целевой таблицы? Или для него тоже надо TTL настраивать, если данные должны со временем удаляться?
2. В целевой таблице есть несколько LowCardinality(String) столбцов. Какой тип надо указывать для соответствующих столбцов Buffer?
Ведь для целевой таблицы, насколько я понимаю, КХ хранит не значения, а индексы из созданного на лету словаря, и если я укажу тип LowCardinality(String) для Buffer, то где гарантия, что индексы этих двух словарей совпадут и будут корректно переданы? А если указать String, то вроде как разные типы данных.

4 ответов

17 просмотров

А почему не просто MV. ?

Alexey-Sokolov Автор вопроса
Aleksey Studnev
А почему не просто MV. ?

Не совсем понял вопрос. MV на что именно? Сейчас есть около 70 таблиц, в часть из которых данные льются нормальными потоками, а где-то по капле в час. Выбор данных же идёт чаще всего сразу из всех. Соответственно, хочу сделать одну таблицу, а все 70 источников перенаправить на единый входной буфер.

Alexey Sokolov
Не совсем понял вопрос. MV на что именно? Сейчас ...

Сделайте 70 MV которые пишут в одну таблицу

Alexey-Sokolov Автор вопроса
Aleksey Studnev
Сделайте 70 MV которые пишут в одну таблицу

На первом этапе так и планирую, но этой одной таблицей будет буфер. Просто в целевую таблицу так писать некорректно, насколько я понимаю, ибо периодически будет много мелких вставок за короткое время, что КХ не любит.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта