184 похожих чатов

Добрый день. подскажите пожалуйста как это реализуется, на каких технологиях. Есть

клиентские приложения которые в случайные промежутки времени отправляют данные( сложный JSON) на сервер.
запросы от клиентов приходят в виде 1 объект в случайный промежуток времени.
момент вставки в БД предполагается определять так: "когда накопилось 10 тыс. объектов - вставь в КХ".
как и с помощью чего реализуют подобную логику ? in-memory БД а-ля Redis?

8 ответов

11 просмотров

Очередь, может - ивент стрим (от Кафки до Флинка - смотря какой кейс) - все зависит от объема данных, ресурсов, сценариев предобработки и того, можете ли вы эти данные потерять или нет ( Редис вот не персистентый)

Ivan- Автор вопроса
Andrii R
Очередь, может - ивент стрим (от Кафки до Флинка -...

с этими технологиями знаком только в общих чертах. объем в 10000 вставок может накопится в среднем за часов пусть 5-7. предобработку можно не делать , т.е. настроить на клиенте. данные терять - нет. может есть под рукой статья или материал какой то с примером как это реализовано на одной из указанных технологий? я так понимаю для КХ это типовая довольно задача или у всех данные сперва в OLTP БД падают?)

Ivan
с этими технологиями знаком только в общих чертах....

ну если так мало вставок, можно сразу в кх вставлять и не мучаться

Ivan- Автор вопроса
Ivan- Автор вопроса
Oleg Gavrilov
Возьмите clickhouse-bulk

спасибо, посмотрю

Ivan
с этими технологиями знаком только в общих чертах....

Это 30 инсертов в секунду, мелочь, можете не парится

Artur Chobanyan
Это 30 инсертов в секунду, мелочь, можете не парит...

Можете взять буффер кх в добавок, если диск такой слабый итд

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
Карта сайта