Приветствую! Можете пожалуйста подсказать: Какую архитектуру построения модели данных стоит использовать

в БД clickhouse?
Задача - сделать архитектуру для системы аналитики.

Как я понимаю, data valult не будет работать в силу того, что мы стараемся нормализовывать данные и наши разряженные индексы в таблице просто поетряют весь смысл и не будут эффективно работать. Мб стоит смотртеь в сторону Кимбола:

Разбивать источники на таблицы фактов и измерений. И по мере появления доп анилитики для бизнеса - делать новые таблицы на основе этих источников.

17 ответов

23 просмотра

Когда я задался похожими вопросами, люди делали наоборот, выбирали технологии под нужды бизнеса (бизнес логику/требования)

Никита- Автор вопроса
Arsen Gumin
Когда я задался похожими вопросами, люди делали на...

Ну т.е. для этого случая стоит поднять какой-нибудь gp и на нём расскатить data vault и оттуда уже перегонять в click для быстрого доступа и аналитики? Нужды такие: делать свою erp систему. Забирать разные источники и из них генерировать разные аналитические выгрузки и передавать их на бэк

Никита
Ну т.е. для этого случая стоит поднять какой-нибуд...

Я думаю так, да. Но опять же без нюансов)

Никита
Ну т.е. для этого случая стоит поднять какой-нибуд...

Мы юзаем spark. Spark'ом денормализуем таблицы, там где можем и кидаем в CH. А над кликом посажем уже Superset

Никита- Автор вопроса
Владислав Lazycat
Мы юзаем spark. Spark'ом денормализуем таблицы, та...

Ну, для спарка нужно много железа + это придётся самому раскатывать. К сожалению, этот вариант не подходит.

Мы в облаках. Там проще. У меня динамически кластер создаётся, считает и удаляется Только за квотами надо следить

Никита- Автор вопроса
Arsen Gumin
Я думаю так, да. Но опять же без нюансов)

Вот вопрос: А почему в целом не подходит вариант с Кимболом и в чем большое преимущество в data valut? Как я понимаю, у Кимбола проблема с большим количеством источников и с изменением данных. А data vault нужно вроде как использовать с кодогенерацией, только я пока что не очень понимаю, какие либы стоит юзать в этом случае ( вроде бы есть питонячая либа dbt )

не сочтите за наглость я также как-то начинал, вернее хотел начать сделать дата волт но... потом понял, что дата волт в принципе и не нужен)))) не всегда и не везде от него можно ощутить реальную пользу для 98% проектов архитектура будет гибрид Кимбалл - Инмон (да простят меня эти Отцы современных хранилищ) а прям по методологии Инмон наверно построен у 1% крупные компании, типа Яндекса, которые могут и вынуждены себе позволять требующей высокой квалификации архитектуры, и то упираются во всякие гибриды а-ля Data Vault 2.0 & Anchor (и назвали это hnhm) в общем, начните с простейшего - Кимбалла. Дальше по мере роста сложности задач.

Husan
не сочтите за наглость я также как-то начинал, ве...

Ну кимбал это уже 3нф, можно хуячить прям широкие витрины

Dmitry Zuev
Ну поясни

Кимбалл - это денормализация, какая 3нф? Прям широкие витрины - это скорее OBT, т.е джойн кимбалловской таблицы фактов с измерениями

Danny
Кимбалл - это денормализация, какая 3нф? Прям широ...

Кимбал проповедовал 3нф. Где-то в конце 90х был моделинг манифест

Похожие вопросы

Обсуждают сегодня

Так а кто может спарсить всех участников чата? Идишники
Magic
17
Нужно магазин с тильды на опен кат перенести Есть кто умеет? В лс
Magic
6
ох, как мне это нравится - "уточнить стоимость и получить консультацию"... есть знатоки лицензий, они не должны ли исходники открыть?
Artem (☞゚ヮ゚)☞ Bortnikov
4
Привет, кто может сделать юзербота с апи? Задачи: - создавать группы - создавать каналы - задавать для созданных каналов аватарку или эмоджи, имя группы - добавлять в группы...
Lencore
13
Кто создает тут ботов для телеграмм групп ?
Antskup
8
Я хочу запустить свой проект в тг. Что-то между пирамидой и майнилкой. Еще подобного ничего не было. Уникальная идея. Нужен именно не бот, а приложение. С ввод, выводом тон...
Павел А.
6
Всем доброго вечера! Хочу поделиться своим злоключением с человеком, который, как оказалось сюда тоже скидывал свое резюме. Жаль, что я вашу группу не нашел раньше… человек ки...
Роман Ахмедзянов
4
Я колись ставив гуглу антиспам 3.0, може і норм, але мені не дуже зайшло. Теж думав тиждень, що його і куди. Зупинився на трех варіантах відразу всі три і включив 1. Перевір...
𝓔𝓾𝓰𝓮𝓷𝓮𝓥 J
2
господа, когда у вас в боте есть локализация (ру + англ, остальные языки пока не планируются), вы на первом старте как с языком решаете вопрос: смотрите на language_code приле...
Denis 🐍|👑 | darling! 🥰
5
Всем привет, Добавил в плагин определение user agent public function registerMarkupTags() { return [ 'filters' => [ 'staticPage' => ['RainLab\Pages\Cl...
John Norton Kruger
3
Карта сайта