212 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
Qt Qt
aiogram aiogram
symfony symfony
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
Боты на Telegraf Боты на Telegraf
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
Zbrush RU Zbrush RU
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
1C 1C
SwiftBook SwiftBook
Delphi & Lazarus Delphi & Lazarus
Solidity Development Solidity Development
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
Substance Painter & Desig... Substance Painter & Desig...
OctoberCMS OctoberCMS
pro.graphon (and gamedev) pro.graphon (and gamedev)
pro.Asm pro.Asm
ru_gitlab ru_gitlab
IDE и редакторы — русског... IDE и редакторы — русског...
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
Godot Engine (Russian) Godot Engine (Russian)
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
MySQL MySQL
Yii Framework 2 Yii Framework 2
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Data Engineers Data Engineers
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
Чат Tableau Чат Tableau
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
Delphi Community Delphi Community
pro.vim pro.vim
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Modern::Perl Modern::Perl
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Evolution CMS Evolution CMS
Oracle RU Oracle RU
ru.nim.talks ru.nim.talks
DevOps DevOps
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Haskell Start Haskell Start
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
ErlangRus ErlangRus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Electron.js Electron.js
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
pro.osdev - os developmen... pro.osdev - os developmen...
MySQL MySQL
Lame C++ Lame C++
QA juniors QA juniors
GameDev for Web GameDev for Web
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
ru_hashicorp ru_hashicorp
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
FreePascal & Lazarus FreePascal & Lazarus
Язык программирования Jul... Язык программирования Jul...
WordPress – русскоговорящ... WordPress – русскоговорящ...
Django Django
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
Grafana Loki Grafana Loki
VictoriaMetrics_ru VictoriaMetrics_ru
.NET Group .NET Group
WebAssembly — русскоговор... WebAssembly — русскоговор...
Google Cloud Platform_ru Google Cloud Platform_ru
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Foundry Modo Foundry Modo
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
UI/UX — русскоговорящее с... UI/UX — русскоговорящее с...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
Netbeans [RU] Netbeans [RU]
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Software Design/Architecture/Zen Software Design/Architecture/Zen
Sven-d

Привет! У меня есть сущность в программе (импортёр). Клиент может выбирать

из набора импортёра конкретные типы, которые забирают данные из разных endpoint-ов.
Я добавляю ETL в этот процесс и пишу данные в промежуточную БД, которую буду потом трансформировать, как мне буде удобно.

Мне нужно знать, какие таблицы в БД к каким импортёрам относятся. Как лучше построить эту связь?

#oop #programming #russian #software #web-design
0

16 ответов

28 просмотров
Gleb-Fault

А обязательно таблицы?

0
14.09.2023
Sven-d Автор вопроса
Gleb Fault
А обязательно таблицы?

Уточните вопрос, пожалуйста

0
14.09.2023
Gleb-Fault
Sven d
Уточните вопрос, пожалуйста

> Мне нужно знать, какие таблицы в БД к каким импортёрам относятся Вы хотите именно в таблицах хранить сущности или это не принципиально?

0
14.09.2023
Sergey-P

А в чем вопрос? Как лучше - хз, в условиях нет инфы что бы оценить

0
14.09.2023
Sven-d Автор вопроса
Sergey P
А в чем вопрос? Как лучше - хз, в условиях нет инф...

вообще БД для ETL это тупо временная карманная база на sqlite. Ми забираем данные из datasource-ов (их может быть несколько), трансформируем в тот формат, которые будет удобен нашей системе и потом сливаем все данные в основную систему. Для бизнес логики нужно отображать клиенту инфу, про то, какие таблицы находятся в импортёре. Я пока что не знаю, где лучше эту инфу держать, как формировать эти связи и ТД.

0
14.09.2023
Sven-d Автор вопроса
screenshot
0
14.09.2023
Nikolay-Turskyi

А почему не на лету создавать таблицы, которые содержат имя импортера или ид импортера? endpoint_1_{import_name} и т.д Соответственно если импортер состоит из разного количества эндпоинтов создать и каждый эндпоинт имеет разные данные, то по имени можно спокойно найти к какому эндпоинту отнести таблицу и какому импортеру и после обработки, просто грохнуть временную таблицу.

0
14.09.2023
Sven-d Автор вопроса
Nikolay Turskyi
А почему не на лету создавать таблицы, которые сод...

Окей, был такой вариант Но есть вероятность, что таблицы могут быть персистентными (например, при повторном импорте будем забирать часть данных от конкретной даты)

0
14.09.2023
Nikolay-Turskyi
Sven d
Окей, был такой вариант Но есть вероятность, что т...

Ну тогда относительно различных эндпоинтов, применяйте разные стратегии. Если не нужно рубить/удалять, то кладите в одну таблицу для эндпоинта и добавляйте ссылку на импортера. После обработки данных, к примеру, можно оставлять условно последнюю запись для загрузки в дальнейшем только от определенной даты. Вам нужно определиться с эндпоинтами, как вы в них ходите, где что "дешевле" по получению данных, что можно не кешировать, где эндпоинты залить себе, потому как для всех импортёров будут одни и те же данные и т.д.

0
14.09.2023
Sven-d Автор вопроса
Nikolay Turskyi
Ну тогда относительно различных эндпоинтов, примен...

Спасибо Приму во внимание)

0
14.09.2023
Artur-
Sven d
screenshot

может вам пересмотреть модель и сделать как в прометее? т е самим ходить за данными из aggregation mechanism в каждый дата сорс

0
15.09.2023
Sven-d Автор вопроса
Artur
может вам пересмотреть модель и сделать как в пром...

Не выйдет, к сожалению - механизм агрегации базируется полностью на sql. Интерфейсы получения из datasource могут быть разными (БД, файл, API)

0
15.09.2023
Max-Grom

А как это у вас механизм агрегации на SQL, а датасорс по API? Вы условный json ложите в реляционку в raw формате?

0
15.09.2023
Sven-d Автор вопроса
Max Grom
А как это у вас механизм агрегации на SQL, а датас...

Если коротко, то да: почти все API возвращают нам плоскую структуру (некоторые в формате json, некоторые xml)

0
15.09.2023
Max-Grom
Sven d
Если коротко, то да: почти все API возвращают нам ...

Как тогда это противоречит идее выше где предлагается ходить самому? Общение по API у вас, судя по всему, уже есть, и судя по всему вы же и собираете эти данные

0
15.09.2023
Sven-d Автор вопроса
Max Grom
Как тогда это противоречит идее выше где предлагае...

Тогда я, скорее всего, неправильно понял идею

0
15.09.2023

Похожие вопросы

Software Design/Architecture/Zen Software Design/Architecture/Zen / Sergey P
Подписаться

окей. давай по другому скажу. для начала контекст: 1. у нас есть современные IDE с автоматическими средствами рефакторинга. То есть если у тебя была зависимость от какого-то ...

#oop #programming #russian #software #web-design
19.11.2023
0
11 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Эдуард
Подписаться

Доброго времени суток, мне нужна ваша помощь. Хочу написать пэт проект Интернет-магазин (не банальный) Мне нужно спроектировать приложение с микросервисной архитектурой. Осно...

#oop #programming #russian #software #web-design
20.10.2023
0
36 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / TS
Подписаться

Тут вопрос по инфраструре kubernates можно задать ? Я в этой теме имею некую кашу в голове от всего узученного мной Или киньте пожалуйста линк чата где можно обратиться с т...

#oop #programming #russian #software #web-design
21.08.2023
0
28 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Rostislav Teryaev
Подписаться

Для чего надо делать DI в коде? Например, репозиторий передавать в сервис через интерфейс, а не конкретный тип. Существуют следующие варианты: 1. Тестирование. Чтобы реализац...

#oop #programming #russian #software #web-design
19.11.2023
0
22 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Г. Разработчик ПО / Web
Подписаться

кто-нибудь может поделиться опытом по переезду с кронов на очереди в минимальном комплекте? есть какие-то начитанные данные, но пока не понимаю назначения всего что начитал "...

#oop #programming #russian #software #web-design
10.11.2023
0
20 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Блья ✖️➕➖➗
Подписаться

Сегодня был интересный, при этом не самый приятный эмоционально разговор с коллегой. Тоже из разряда всей командой к психотерапевту. Есть некий проект, который раньше разраба...

#oop #programming #russian #software #web-design
11.07.2023
0
7 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Rostislav Teryaev
Подписаться

а, или ты имел в виду, что наш сервис куда-то ходит по вс или graphql?

#oop #programming #russian #software #web-design
19.11.2023
0
23 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Dmitry
Подписаться

Коллеги, какой http код вы бы вернули, если произошла ошибка в домене (нарушение бизнес правил, инвариантов сущностей и т.д.)? Я сейчас возвращаю 422. Но есть сомнения в данно...

#oop #programming #russian #software #web-design
03.10.2023
0
25 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / Dan
Подписаться

Всем привет, хотел спросить... как посоветуете реализовать логин в SPA ? Пока думаю использовать сессии + basic аутентификацию. Столкнулся с кучей проблем из-за текущего хран...

#oop #programming #russian #software #web-design
10.11.2023
0
21 ответов
Software Design/Architecture/Zen Software Design/Architecture/Zen / TS
Подписаться

Насчёт атомарных транзакций )) Есть какой-то фреймворк надежный чтобы SAGA проводить между микросервисами /good practices ? Есть обеспокоенность ,что в процессе между ивент...

#oop #programming #russian #software #web-design
13.08.2023
0
21 ответов
Смотреть еще
Software Design/Architecture/Zen Software Design/Architecture/Zen
Подписаться
Вопросов 979
Ответов 3776
Участников 2477
Telegram @oop_ru

Обсуждают сегодня

30500 за редактор? )
Владимир
47
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
вы делали что-то подобное и как? может есть либы готовые? увидел картинку нокода, где всё линиями соединено и стало интересно попробовать то же в ddl на lua сделать. решил с ч...
Victor
8
Подскажите пожалуйста, как в CustomDrawCell(Sender: TcxCustomGridTableView; ACanvas: TcxCanvas; AViewInfo: TcxGridTableDataCellViewInfo; var ADone: Boolean); получить наз...
A Z
7
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
1
Он в одиночку это дело запилил или была какая-то команда?
Aquinary
12
~ 2m21s  nix shell github:nixos/nixpkgs#stack ~  stack ghc -- --version error: … while calling the 'derivationStrict' builtin at /builtin/derivation.nix:...
Rebuild your mind.
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Карта сайта