Привет! Подскажите, пожалуйста, как правильно организовать следующее: Дано: - MongoDB (Atlas

Cloud), размер данных на текущий момент - около 8 ГБ, 2 целевых коллекции - одна на 10К-15К записей, вторая - пол милиона записей
- Вся остальная инфраструктура (EC2, Lambda, S3 и т.д.)
Нужно:
- Подключить к этим данных BI тулзу - tableau online (!), power bi, aws quicksight (предпочтительнее первая, но лично я хочу подружится с последней)
Проблема: Структура коллекции в монге достаточно денормализированная, есть уровни вложенности - не очень для аналитики. + к монге, даже через eё BI-коннектор, не все BI-сервисы могут к ней приконектится.
----
Как хочу решить: смигрировать данные с монги в какой-то более плоский вид, RDS/Aurora или что-то завязаное на aws athena, ну и настроить постоянную синхронизацию данных (как - нз). Но я не понимаю как эти данные смигрировать и делать их синхронизацию? AWS предоставляет какие-либо сервисы для этого? + Насколько они будут быстро обрабатывать данные - BI-сервисы по идее на них будут гонять запроссы-аггрегатки, - никто не хочет ждать 15+ минут пока отобразится диаграмма

1 ответов

11 просмотров

Попробуйте Glue каталог для монги через JDBC драйвер. Он как раз выдаст плоскую структуру, с которой легко уже в том же QuickSight работать. Потом можно еще повесить сверху Athena, допустим. Обычный паттерн, используется также поверх слабоструктурированных данных в S3, например

Похожие вопросы

Обсуждают сегодня

Ребята, всем привет. Подскажите, пожалуйста, можно ли как-то через бота понять, что этого бота добавили в группу\канал и выдали ему права администратора?
Artem Stormageddon
9
А не хотим ли мы развлечься? 😉 Но так чтобы с пользой для наших профессиональных навыков?? 👨‍🎓👩‍🎓 Предлагаю на октябрь запланировать тестовый запуск новой командной игры "Игр...
Andrii Kurdiumov
2
Это переведённый текст с английского. Я не говорю на русском, но могу использовать переводчик Телеграм. Приветствую! Я начинающий веб-разработчик и все еще учусь. В настояще...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
2
у кого сколько оперативы на базе данных ?
АДИЛЬБЕК
4
Привет всем! Почему этот код не срабатывает при добавлении или удалении пользователя из чата? bot.on('chat_member', async (ctx) => { console.log(ctx); }) bot.launch({allo...
Alexander
5
Через бот апи возможно получить ID стикерпака? Не ссылку.
Vexylon [АФК до 09.09]
5
В тг можно спарсить всех кто пишет в группе? Если список участников скрыт
S
3
Привет Хочу сделать аналог iCloud’а для своих проектов, чтобы пользовательская информация хранилась в облаке, была доступна во всех сервисах, её можно было подсасывать везде)...
Виталий
9
Доброе утро, мультиязычные сайты делал кто-нибудь? Какие подводные камни? Нужно чего нибудь допом ставить? Как поступить? В теории сделать две папки ru en и туда кидать страни...
Racoon Mitya
2
Ребят, а двух-факторку для плагина Users и для бэкенда октября кто-то прикручивал? Поделитесь опытом
Constantine Anikin
4
Карта сайта