184 похожих чатов

Добрый день. подскажите пожалуйста как это реализуется, на каких технологиях. Есть

клиентские приложения которые в случайные промежутки времени отправляют данные( сложный JSON) на сервер.
запросы от клиентов приходят в виде 1 объект в случайный промежуток времени.
момент вставки в БД предполагается определять так: "когда накопилось 10 тыс. объектов - вставь в КХ".
как и с помощью чего реализуют подобную логику ? in-memory БД а-ля Redis?

8 ответов

14 просмотров

Очередь, может - ивент стрим (от Кафки до Флинка - смотря какой кейс) - все зависит от объема данных, ресурсов, сценариев предобработки и того, можете ли вы эти данные потерять или нет ( Редис вот не персистентый)

Ivan- Автор вопроса
Andrii R
Очередь, может - ивент стрим (от Кафки до Флинка -...

с этими технологиями знаком только в общих чертах. объем в 10000 вставок может накопится в среднем за часов пусть 5-7. предобработку можно не делать , т.е. настроить на клиенте. данные терять - нет. может есть под рукой статья или материал какой то с примером как это реализовано на одной из указанных технологий? я так понимаю для КХ это типовая довольно задача или у всех данные сперва в OLTP БД падают?)

Ivan
с этими технологиями знаком только в общих чертах....

ну если так мало вставок, можно сразу в кх вставлять и не мучаться

Ivan- Автор вопроса
Ivan- Автор вопроса
Oleg Gavrilov
Возьмите clickhouse-bulk

спасибо, посмотрю

Ivan
с этими технологиями знаком только в общих чертах....

Это 30 инсертов в секунду, мелочь, можете не парится

Artur Chobanyan
Это 30 инсертов в секунду, мелочь, можете не парит...

Можете взять буффер кх в добавок, если диск такой слабый итд

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта