184 похожих чатов

Господа. а как вы пишете сиды для тестирования кликхаус кверей?


в в распоряжении кх19.7, нода.
проблема в том, что сейчас сиды у меня прописаны в виде массива массивов.
вида
[
['john', 'doe', 75]
]
отдельно существует объект для маппинга, вида
{
name: 'String',
surname: 'String',
age: 'UInt8'
}
как вы понимаете, там колонок 50 в каждой записи.
так что поддерживать весь этот зоопарк становится накладно, ибо приходится буквально считать запятые, чтобы воткнуть какое-то значение на какое-нибудь место

14 ответов

18 просмотров

храним в выделенных колонках в КХ или в "json" в монге

krn-p Автор вопроса
Denny [Altinity]
храним в выделенных колонках в КХ или в "json" в м...

уже перегнал всю эту дрянь в json. стало гораздо менее противно работать с данными. новая повестка дня - словари 😄 где вы их храните? тоже в монге ?

krn p
уже перегнал всю эту дрянь в json. стало гораздо ...

у меня все словари http, без понятия что там за http, вроде mysql

krn-p Автор вопроса
Denny [Altinity]
у меня все словари http, без понятия что там за ht...

то есть локально даже для тестов не держите ?

krn p
то есть локально даже для тестов не держите ?

для тестов в файлах, tsv, т.е. бекэнд словарей возвращает tsv через http, поэтому для тестов легче всего просто курлом в файл сложить

krn p
уже перегнал всю эту дрянь в json. стало гораздо ...

в какой-то момент ваша колонка с json станет размером 200ГБ, любые запросы будут работать 200+ сек.

krn-p Автор вопроса
Denny [Altinity]
в какой-то момент ваша колонка с json станет разме...

честно говоря, тестиков пока мало, и много вроде не предвидится. но то, что было до этого, было невероятно отвратительно

krn-p Автор вопроса
Denny [Altinity]
в какой-то момент ваша колонка с json станет разме...

попробуйте представить, как клево менять данные при таком раскладе :D

krn p
честно говоря, тестиков пока мало, и много вроде н...

просто не надо рассчитывать что КХ будет работать с неструктурированными данными, ну не будет он, будет просто тормозить, потому что просто прочитать с диска такую суперколонку невыносимо долго, потом распаковать, потом отфильтровать.

krn p
screenshot попробуйте представить, как клево менять данные пр...

менять????? возьмите монгу. КХ тут не подходит.

krn-p Автор вопроса
Denny [Altinity]
просто не надо рассчитывать что КХ будет работать ...

а, нене, вы меня не так поняли) я вынес сиды с пика выше в отдельный json файл так что в кликхаусе они все складываются как нужно, по колонкам а жаловался я на то, что json по размеру получается в разы больше, чем аналогичный csv (или около того, как на пике выше, опять же)

krn-p Автор вопроса
Denny [Altinity]
я не знаю что такое "сид", "пик"

seed - это некоторые данные для тестовой базы. грубо говоря чтобы проверить select * from tbl нужно сперва эту tbl чем- то заполнить. вот сиды - как раз такие вот дерьмовые данные для тестов. а пик - пикча, картинка выше крч

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта