212 похожих чатов

Приветствую. Посоветуйте плиз. Есть логи посещений. Сейчас в эластике, есть

ближайшие планы переводить в кликхаус (ну т.е. за него почти не шарю , читаю доку и прочее пару дней). В этих логах есть user_id.
Так же надвигается фича, что нужно организовать чтение этих логов, по юзерам за прошедщий месяц, т.е. запрос по user_id выдает лог посещений. rps ~ 600 должен организовать тестовый клиент, т.е. в теории это цифра будет еще больше при некольких клиентах. Плюс читается примерно там же где и пишется, не 1 в 1 но все же. Т.е. Лог посещения записался, не следующих страницах он уже должен максимально скоро влиять на результат чтения.
Думал мб закинуть в materilized view с сортировокой по user_id, зашел в чат по кликхаусу - там как раз недавнее обсуждение что 100 rps уже много. Ну тип кликхаус не для этого, что в принципе логично делать такие выборки сложовато да еще с большой rps.

Приходит логичный вариант key-value кэш, но так как записи не намного меньше чтения, то кэширование как то смотрится малым помошником. Тогда может и не использовать кэширование над первичными логами, а писать в доп базу сразу паралельно ? Но это чтение + анализ коллекции + апдейт.

Может есть какое то решение в базах данных, где есть key (user_id)=>valueCollection с ttl или со стеком из коробки? Ну или лучше самому такой организовывать на записи? Или вообще думаю не в правильном направлении?

7 ответов

44 просмотра

600 RPC похер же, лишь бы работало. Всегда можно воткнуть Кафки всякие что бы не упираться в запись и батчить вещи в памяти

Павел-Г. Автор вопроса
Sergey P
600 RPC похер же, лишь бы работало. Всегда можно в...

Не совсем понял. У меня проблема с чтением. Запись логов не проблема в тот же клмкхаус, проблема как потом быстро читать.

Павел Г.
Не совсем понял. У меня проблема с чтением. Запись...

Чтение легко масштабировать репликами + тот же кликхаус не должен проблем создавать

Павел-Г. Автор вопроса
Sergey P
Чтение легко масштабировать репликами + тот же кли...

Ну для него же это поиск по условию. Про реплики думал, но чёт подумал что это скорее костыль причём сложный. Чтобы он был фронтовой частью.

Павел-Г. Автор вопроса
Sergey P
Чем он сложный?

Ну то что много реплик нужно будет, чтобы большой qps поддерживать, если говорить что 100 уже много для 1

Павел Г.
Не совсем понял. У меня проблема с чтением. Запись...

Вьюхи создавай, кликхаус умеет агрегировать фоном для почти моментальных выборок.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта