172 похожих чатов

Всем привет Конечно немного не туда вопрос: какую базу данных использовать

под систему аналитики? Как они вообще устроены? (щас опишу)

Каждый день +50-100 тысяч записей в таблицу
и доступ к данным должен быть постоянным, потому что бывают сложные выборки, затрагивающие очень старые данные

Сейчас все на пг крутится и самый сложный запрос на таблице с 7 млн данных отрабатывает за 40 секунд; оптимизировала как могла; Спасает только кеширование раз в 3 часа по крону самых сложных запросов

в итоге сейчас думаю сбежать на in-memory бд

внутренняя интуиция подсказывает, что я возможно что-то упускаю и при таком небольшом количестве данных ломаться не должно или все-таки это много данных?

6 ответов

9 просмотров

Колоночные. Clickhouse например

как вариант postgres + timescaledb, наверно

7 лям вообще мало довольно

order не используете в запросе на 40 секунд случайно?

> Сейчас все на пг крутится и самый сложный запрос на таблице с 7 млн данных отрабатывает за 40 секунд; А какой это размер в гигабайтах, ради любопытства? > оптимизировала как могла; Спасает только кеширование раз в 3 часа по крону самых сложных запросов А индексы подходящие есть? Вообще, показали бы всё относящееся к делу здесь как-нибудь. > и при таком небольшом количестве данных ломаться не должно или все-таки это много данных? На первый взгляд так кажется, да (но данные не измеряются в rows, поэтому см. вопрос выше). ;)

7кк записей и вас что то смущает?да это вообще ни о чем. У меня на обычной машине около 1кк-записей, все летает практически на калькуляторе.

Похожие вопросы

Обсуждают сегодня

Типа вызывать GetParent и проверять на соответствие GetModuleHandle?
The Bird of Hermes
67
Всем привет! Кто нибудь парсил в ручную JSON без библиотек и фреймворков? Есть может ссылки на оптимальный алгоритмы работы с текстом и примеры таких парсеров?
Lem
27
Do any of you guys have interesting projects one could join? I'm a Middle Full-Stack developer (JS/TS, React & Node)
Lev Shapiro
40
Есть сайт. Там была древняя версия эво. Стоял плагин, который каждый коммент в Jot делал отдельной страницей. После обновления все слетело, теперь старница открывается отдельн...
Artem
1
$res = json_decode($наша строка из респонса); $res1 = array_map(fn($o) => $o->name, $res->breadcrumbs[0]->entities); Как такое будет на Хаскеле?.. В начале весь джейсон, в ко...
Хаскель Моисеевич Гопник
27
Добрый день. А shovel'ы можно как-то сконфигурировать в definitions.json? Пробовал что-то вроде: { "users": [ { "name": "agent", "password_hash": "RBCbTzQd...
Aleksey
1
Вопрос по диагностике ошибок (я знаю в чем, в данном конкретном примере, я знаю, как исправить, пример модельный, понятно, что в реальности бывает намного запутаннее). module...
ⰄⰎⰋⰐⰐⰑⰛⰤⰧⰧⰩⰄ ⰊⰑⰁⰓⰡⰛⰦⰕⰫ
11
А чем вам питонисты не угодили?😂
.
79
В чем сила брат, в NASM или FASM?
Isaac Kleiner
18
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
52
Карта сайта