212 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
Qt Qt
aiogram aiogram
symfony symfony
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
Боты на Telegraf Боты на Telegraf
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Ассемблер Ассемблер
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
Zbrush RU Zbrush RU
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
DevsHelper DevsHelper
1C 1C
SwiftBook SwiftBook
Solidity Development Solidity Development
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
Delphi & Lazarus Delphi & Lazarus
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
Substance Painter & Desig... Substance Painter & Desig...
Dart / Flutter Dart / Flutter
Evolution CMS развитие и ... Evolution CMS развитие и ...
pro.graphon (and gamedev) pro.graphon (and gamedev)
ru_gitlab ru_gitlab
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
IDE и редакторы — русског... IDE и редакторы — русског...
Frontend_ru Frontend_ru
OctoberCMS OctoberCMS
Flutter Developers — русс... Flutter Developers — русс...
Godot Engine (Russian) Godot Engine (Russian)
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
MySQL MySQL
Yii Framework 2 Yii Framework 2
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
dlang.ru dlang.ru
Data Engineers Data Engineers
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
Чат Tableau Чат Tableau
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Server Side Swift Develop... Server Side Swift Develop...
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Evolution CMS Evolution CMS
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
Odoo talks & fun Odoo talks & fun
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
Modern::Perl Modern::Perl
pro.buildsystems pro.buildsystems
ru.nim.talks ru.nim.talks
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
Haskell Start Haskell Start
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
ErlangRus ErlangRus
QA juniors QA juniors
GameDev for Web GameDev for Web
Electron.js Electron.js
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
MySQL (EN) MySQL (EN)
Go Get A Job Go Get A Job
Lame C++ Lame C++
ru_hashicorp ru_hashicorp
pro.osdev - os developmen... pro.osdev - os developmen...
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Django Django
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
WordPress – русскоговорящ... WordPress – русскоговорящ...
Grafana Loki Grafana Loki
VictoriaMetrics_ru VictoriaMetrics_ru
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
sentry_ru sentry_ru
ansible — русскоговорящее... ansible — русскоговорящее...
WebAssembly — русскоговор... WebAssembly — русскоговор...
Google Cloud Platform_ru Google Cloud Platform_ru
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Foundry Modo Foundry Modo
Clojure — русскоговорящее... Clojure — русскоговорящее...
.NET Group .NET Group
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
UI/UX — русскоговорящее с... UI/UX — русскоговорящее с...
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
Netbeans [RU] Netbeans [RU]
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Software Design/Architecture/Zen Software Design/Architecture/Zen
Sven-d

Привет! У меня есть сущность в программе (импортёр). Клиент может выбирать

из набора импортёра конкретные типы, которые забирают данные из разных endpoint-ов.
Я добавляю ETL в этот процесс и пишу данные в промежуточную БД, которую буду потом трансформировать, как мне буде удобно.

Мне нужно знать, какие таблицы в БД к каким импортёрам относятся. Как лучше построить эту связь?

#oop #programming #russian #software #web-design
0

16 ответов

8 просмотров
Gleb-Fault

А обязательно таблицы?

0
7 месяцев назад
Sven-d Автор вопроса
Gleb Fault
А обязательно таблицы?

Уточните вопрос, пожалуйста

0
7 месяцев назад
Gleb-Fault
Sven d
Уточните вопрос, пожалуйста

> Мне нужно знать, какие таблицы в БД к каким импортёрам относятся Вы хотите именно в таблицах хранить сущности или это не принципиально?

0
7 месяцев назад
Sergey-P

А в чем вопрос? Как лучше - хз, в условиях нет инфы что бы оценить

0
7 месяцев назад
Sven-d Автор вопроса
Sergey P
А в чем вопрос? Как лучше - хз, в условиях нет инф...

вообще БД для ETL это тупо временная карманная база на sqlite. Ми забираем данные из datasource-ов (их может быть несколько), трансформируем в тот формат, которые будет удобен нашей системе и потом сливаем все данные в основную систему. Для бизнес логики нужно отображать клиенту инфу, про то, какие таблицы находятся в импортёре. Я пока что не знаю, где лучше эту инфу держать, как формировать эти связи и ТД.

0
7 месяцев назад
Sven-d Автор вопроса
screenshot
0
7 месяцев назад
Nikolay-Turskyi

А почему не на лету создавать таблицы, которые содержат имя импортера или ид импортера? endpoint_1_{import_name} и т.д Соответственно если импортер состоит из разного количества эндпоинтов создать и каждый эндпоинт имеет разные данные, то по имени можно спокойно найти к какому эндпоинту отнести таблицу и какому импортеру и после обработки, просто грохнуть временную таблицу.

0
7 месяцев назад
Sven-d Автор вопроса
Nikolay Turskyi
А почему не на лету создавать таблицы, которые сод...

Окей, был такой вариант Но есть вероятность, что таблицы могут быть персистентными (например, при повторном импорте будем забирать часть данных от конкретной даты)

0
7 месяцев назад
Nikolay-Turskyi
Sven d
Окей, был такой вариант Но есть вероятность, что т...

Ну тогда относительно различных эндпоинтов, применяйте разные стратегии. Если не нужно рубить/удалять, то кладите в одну таблицу для эндпоинта и добавляйте ссылку на импортера. После обработки данных, к примеру, можно оставлять условно последнюю запись для загрузки в дальнейшем только от определенной даты. Вам нужно определиться с эндпоинтами, как вы в них ходите, где что "дешевле" по получению данных, что можно не кешировать, где эндпоинты залить себе, потому как для всех импортёров будут одни и те же данные и т.д.

0
7 месяцев назад
Sven-d Автор вопроса
Nikolay Turskyi
Ну тогда относительно различных эндпоинтов, примен...

Спасибо Приму во внимание)

0
7 месяцев назад
Artur-
Sven d
screenshot

может вам пересмотреть модель и сделать как в прометее? т е самим ходить за данными из aggregation mechanism в каждый дата сорс

0
7 месяцев назад
Sven-d Автор вопроса
Artur
может вам пересмотреть модель и сделать как в пром...

Не выйдет, к сожалению - механизм агрегации базируется полностью на sql. Интерфейсы получения из datasource могут быть разными (БД, файл, API)

0
7 месяцев назад
Max-Grom

А как это у вас механизм агрегации на SQL, а датасорс по API? Вы условный json ложите в реляционку в raw формате?

0
7 месяцев назад
Sven-d Автор вопроса
Max Grom
А как это у вас механизм агрегации на SQL, а датас...

Если коротко, то да: почти все API возвращают нам плоскую структуру (некоторые в формате json, некоторые xml)

0
7 месяцев назад
Max-Grom
Sven d
Если коротко, то да: почти все API возвращают нам ...

Как тогда это противоречит идее выше где предлагается ходить самому? Общение по API у вас, судя по всему, уже есть, и судя по всему вы же и собираете эти данные

0
7 месяцев назад
Sven-d Автор вопроса
Max Grom
Как тогда это противоречит идее выше где предлагае...

Тогда я, скорее всего, неправильно понял идею

0
7 месяцев назад

Похожие вопросы

Software Design/Architecture/Zen Software Design/Architecture/Zen / Sergey P
Подписаться

окей. давай по другому скажу. для начала контекст: 1. у нас есть современные IDE с автоматическими средствами рефакторинга. То есть если у тебя была зависимость от какого-то ...

#oop #programming #russian #software #web-design
19.11.2023
0
11 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Эдуард
Подписаться

Доброго времени суток, мне нужна ваша помощь. Хочу написать пэт проект Интернет-магазин (не банальный) Мне нужно спроектировать приложение с микросервисной архитектурой. Осно...

#oop #programming #russian #software #web-design
20.10.2023
0
36 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Rostislav Teryaev
Подписаться

Для чего надо делать DI в коде? Например, репозиторий передавать в сервис через интерфейс, а не конкретный тип. Существуют следующие варианты: 1. Тестирование. Чтобы реализац...

#oop #programming #russian #software #web-design
19.11.2023
0
22 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Г. Разработчик ПО / Web
Подписаться

кто-нибудь может поделиться опытом по переезду с кронов на очереди в минимальном комплекте? есть какие-то начитанные данные, но пока не понимаю назначения всего что начитал "...

#oop #programming #russian #software #web-design
10.11.2023
0
20 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / TS
Подписаться

Тут вопрос по инфраструре kubernates можно задать ? Я в этой теме имею некую кашу в голове от всего узученного мной Или киньте пожалуйста линк чата где можно обратиться с т...

#oop #programming #russian #software #web-design
21.08.2023
0
28 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Rostislav Teryaev
Подписаться

а, или ты имел в виду, что наш сервис куда-то ходит по вс или graphql?

#oop #programming #russian #software #web-design
19.11.2023
0
23 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Dan
Подписаться

Всем привет, хотел спросить... как посоветуете реализовать логин в SPA ? Пока думаю использовать сессии + basic аутентификацию. Столкнулся с кучей проблем из-за текущего хран...

#oop #programming #russian #software #web-design
10.11.2023
0
21 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Dmitry
Подписаться

Коллеги, какой http код вы бы вернули, если произошла ошибка в домене (нарушение бизнес правил, инвариантов сущностей и т.д.)? Я сейчас возвращаю 422. Но есть сомнения в данно...

#oop #programming #russian #software #web-design
03.10.2023
0
25 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Sergey P
Подписаться

с кроликом я делаю так: 1. у тебя есть продюсеры. Те кто кидают команды или ивенты. Они кладут сообщение в очередь (кворумы + лимит на количество сообщений в памяти в ноль чт...

#oop #programming #russian #software #web-design
17.11.2023
0
2 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Блья ✖️➕➖➗
Подписаться

Сегодня был интересный, при этом не самый приятный эмоционально разговор с коллегой. Тоже из разряда всей командой к психотерапевту. Есть некий проект, который раньше разраба...

#oop #programming #russian #software #web-design
11.07.2023
0
7 ответов
Смотреть еще
Software Design/Architecture/Zen Software Design/Architecture/Zen
Подписаться
Вопросов 979
Ответов 3776
Участников 2477
Telegram @oop_ru

Обсуждают сегодня

я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
100
короче сгенерила мне эта штука код на ассемблере: struc string val { common local .value dq .value .value: if ~val eq db val end if db 0 } fo...
Vi Chapmann Chapmann
12
Всем привет! Массив вводится с клавиатуры, кол-во элементов неизвестно, поэтому я указал arr db 100 dup(?) С нахождением максимума проблем нет, а вот минимум почему-то всегд...
En Vind Av Sorg
11
кто шарит: mattermost отслеживает что ты на пк запускаешь?
Valentin
13
Помогите, пожалуйста, делаю программу для для подсчёта корней квадратного уравнения, знаю, что есть куча недочётов, недоработок, но основная проблема в том, что почему-то при ...
NYC
13
#include <stdio.h> int main(void) { int n; scanf("%d", &n); int digits1[n] = {0}; int digits2[n] = {0}; я не могу таким образом заранее массив нулями заполнить?
Linus
12
в сях есть множество как в питоне? для удаление дубликатов
Linus
25
читать файл максимально быстро? странный вопрос))
zamtmn
53
я про форму записи. смысл указывать что 8 байтный регистр 8 байт?
Aiwan \ (•◡•) / _bot
10
Вроде бы вопрос уже заезжанный, но тем не менее У меня есть функция menu() которая выводит набор возможных действий, а затем спрашивает у пользователя что он хотел бы сделать....
David Golovatin
5
Карта сайта