212 похожих чатов

Приветствую. Посоветуйте плиз. Есть логи посещений. Сейчас в эластике, есть

ближайшие планы переводить в кликхаус (ну т.е. за него почти не шарю , читаю доку и прочее пару дней). В этих логах есть user_id.
Так же надвигается фича, что нужно организовать чтение этих логов, по юзерам за прошедщий месяц, т.е. запрос по user_id выдает лог посещений. rps ~ 600 должен организовать тестовый клиент, т.е. в теории это цифра будет еще больше при некольких клиентах. Плюс читается примерно там же где и пишется, не 1 в 1 но все же. Т.е. Лог посещения записался, не следующих страницах он уже должен максимально скоро влиять на результат чтения.
Думал мб закинуть в materilized view с сортировокой по user_id, зашел в чат по кликхаусу - там как раз недавнее обсуждение что 100 rps уже много. Ну тип кликхаус не для этого, что в принципе логично делать такие выборки сложовато да еще с большой rps.

Приходит логичный вариант key-value кэш, но так как записи не намного меньше чтения, то кэширование как то смотрится малым помошником. Тогда может и не использовать кэширование над первичными логами, а писать в доп базу сразу паралельно ? Но это чтение + анализ коллекции + апдейт.

Может есть какое то решение в базах данных, где есть key (user_id)=>valueCollection с ttl или со стеком из коробки? Ну или лучше самому такой организовывать на записи? Или вообще думаю не в правильном направлении?

7 ответов

16 просмотров

600 RPC похер же, лишь бы работало. Всегда можно воткнуть Кафки всякие что бы не упираться в запись и батчить вещи в памяти

Павел-Г. Автор вопроса
Sergey P
600 RPC похер же, лишь бы работало. Всегда можно в...

Не совсем понял. У меня проблема с чтением. Запись логов не проблема в тот же клмкхаус, проблема как потом быстро читать.

Павел Г.
Не совсем понял. У меня проблема с чтением. Запись...

Чтение легко масштабировать репликами + тот же кликхаус не должен проблем создавать

Павел-Г. Автор вопроса
Sergey P
Чтение легко масштабировать репликами + тот же кли...

Ну для него же это поиск по условию. Про реплики думал, но чёт подумал что это скорее костыль причём сложный. Чтобы он был фронтовой частью.

Павел-Г. Автор вопроса
Sergey P
Чем он сложный?

Ну то что много реплик нужно будет, чтобы большой qps поддерживать, если говорить что 100 уже много для 1

Павел Г.
Не совсем понял. У меня проблема с чтением. Запись...

Вьюхи создавай, кликхаус умеет агрегировать фоном для почти моментальных выборок.

Похожие вопросы

Обсуждают сегодня

я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
49
читать файл максимально быстро? странный вопрос))
zamtmn
53
How to create an OS in C? what to study?
Linus
18
Всем доброго вечера! Хочу поделиться своим злоключением с человеком, который, как оказалось сюда тоже скидывал свое резюме. Жаль, что я вашу группу не нашел раньше… человек ки...
Роман Ахмедзянов
4
Компания Elif ищет менеджера проектов, который будет заниматься поиском и ведением новых проектов. Прежде чем приступить к работе, вам нужно пройти наш недельный курс, где вы ...
Elif
5
тоесть, указав return eax, сгенерируется никому ненужная инструкция mov eax,eax ?
Aiwan \ (•◡•) / _bot
24
Привет, кто может сделать юзербота с апи? Задачи: - создавать группы - создавать каналы - задавать для созданных каналов аватарку или эмоджи, имя группы - добавлять в группы...
Lencore
11
а зачем этот вопрос для удаления из чата?
Mёdkinson Medvezhkin
63
@HemulGM Параметры у AddStream поменялись? Несостыковка какая-то
Катерина Свиридова
12
Подскажите, есть какие-то события создания/уничтожения у TFrame по типу TForm (OnCreate и OnClose/OnDestroy) ? Как отловить создание TFrame и "перед" уничтожением. На Tframe р...
Денис
8
Карта сайта