Приветствую! Можете пожалуйста подсказать: Какую архитектуру построения модели данных стоит использовать

в БД clickhouse?
Задача - сделать архитектуру для системы аналитики.

Как я понимаю, data valult не будет работать в силу того, что мы стараемся нормализовывать данные и наши разряженные индексы в таблице просто поетряют весь смысл и не будут эффективно работать. Мб стоит смотртеь в сторону Кимбола:

Разбивать источники на таблицы фактов и измерений. И по мере появления доп анилитики для бизнеса - делать новые таблицы на основе этих источников.

17 ответов

41 просмотр

Когда я задался похожими вопросами, люди делали наоборот, выбирали технологии под нужды бизнеса (бизнес логику/требования)

Никита- Автор вопроса
Arsen Gumin
Когда я задался похожими вопросами, люди делали на...

Ну т.е. для этого случая стоит поднять какой-нибудь gp и на нём расскатить data vault и оттуда уже перегонять в click для быстрого доступа и аналитики? Нужды такие: делать свою erp систему. Забирать разные источники и из них генерировать разные аналитические выгрузки и передавать их на бэк

Никита
Ну т.е. для этого случая стоит поднять какой-нибуд...

Я думаю так, да. Но опять же без нюансов)

Никита
Ну т.е. для этого случая стоит поднять какой-нибуд...

Мы юзаем spark. Spark'ом денормализуем таблицы, там где можем и кидаем в CH. А над кликом посажем уже Superset

Никита- Автор вопроса
Владислав Lazycat
Мы юзаем spark. Spark'ом денормализуем таблицы, та...

Ну, для спарка нужно много железа + это придётся самому раскатывать. К сожалению, этот вариант не подходит.

Мы в облаках. Там проще. У меня динамически кластер создаётся, считает и удаляется Только за квотами надо следить

Никита- Автор вопроса
Arsen Gumin
Я думаю так, да. Но опять же без нюансов)

Вот вопрос: А почему в целом не подходит вариант с Кимболом и в чем большое преимущество в data valut? Как я понимаю, у Кимбола проблема с большим количеством источников и с изменением данных. А data vault нужно вроде как использовать с кодогенерацией, только я пока что не очень понимаю, какие либы стоит юзать в этом случае ( вроде бы есть питонячая либа dbt )

не сочтите за наглость я также как-то начинал, вернее хотел начать сделать дата волт но... потом понял, что дата волт в принципе и не нужен)))) не всегда и не везде от него можно ощутить реальную пользу для 98% проектов архитектура будет гибрид Кимбалл - Инмон (да простят меня эти Отцы современных хранилищ) а прям по методологии Инмон наверно построен у 1% крупные компании, типа Яндекса, которые могут и вынуждены себе позволять требующей высокой квалификации архитектуры, и то упираются во всякие гибриды а-ля Data Vault 2.0 & Anchor (и назвали это hnhm) в общем, начните с простейшего - Кимбалла. Дальше по мере роста сложности задач.

Husan
не сочтите за наглость я также как-то начинал, ве...

Ну кимбал это уже 3нф, можно хуячить прям широкие витрины

Dmitry Zuev
Ну поясни

Кимбалл - это денормализация, какая 3нф? Прям широкие витрины - это скорее OBT, т.е джойн кимбалловской таблицы фактов с измерениями

Danny
Кимбалл - это денормализация, какая 3нф? Прям широ...

Кимбал проповедовал 3нф. Где-то в конце 90х был моделинг манифест

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
2
Привет!) Кто как юзает переменные в строках?) Чисто ради интереса Вот так: echo "У меня {$bananasAmount} бананов"; Или вот так: echo "У меня ${bananasAmount} бананов";
Виталий
3
разработчик ботов скидывает портфолио, боты которые он уже создал. А вот как узнать что это именно он их создал?
Gosudar
4
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
кто-нибудь уже пробовал это?
Lencore
4
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
❓ Подскажите как сделать в группе телеги функцию (кнопку) пересылки сообщения где есть нарушение правил? Бот к каждому сообщению (по определенным ключам) добавляет снизу кнопк...
Alexander
4
Вопрос: Здравствуйте! У меня возникла проблема с использованием плагина Mall в OctoberCMS. Я использую все файлы и компоненты в их исходном виде, без изменений. Однако на стр...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
8
Карта сайта