Похожие чаты

*Need help in Design approach* Long thread, we can connect on

call to discuss more.

I have problem statement,
There are two batch aplications,

1. *Hadoop based hive database*, holds transaction for Asian client, Millions of records

2. *Sql server database*,holds transactions for US client, Millions of records

There is new business requirement, where we need to update transaction records to change *Settlement indicator* column in both database based on common rules/logic. As business rules are same for both Asia and US aplications, we like to create central *common python program* to update settlement indicator like following,

*Asia Hive:*
1. Asia Transaction load job will run, which will ingest Asia transactions in hive table
2. In next job,Asia Hive transactions ges feed to python program
3. Python program will generate settlement indicator value which will get change in Asia Hive table

*US SQL:*
1. US Transaction load job will run, which will ingest US transactions in sql table
2. In next job,US SQL transactions ges feed to python program
3. Python program will generate settlement indicator value which will get change in Asia sql table.

From sql side, its sorted,

*There are challanges in hive side,*
1. We cannot create stored proc in Hive
2. As direct table read is not recommended in python, How to feed Hive transactions to python.Do we need to replicate data from Hive to some other source like file, another table which python will read?
3. If somehow python able to read Hive transactions, how update will happen? As Hive dont support direct update, how to update settlement indicator created by Python.

4 ответов

19 просмотров

too much text. please draw a diagram to show how the data flow, and where you want the data to be processed

Akshay-Dalvi Автор вопроса
Akshay Dalvi
Can we connect please, I will explain

if you send it in group there are higher chances of javing your problem solved btw 😇

Похожие вопросы

Обсуждают сегодня

Какой-то там пердун в 90-х решил, что есть какая-то разная типизация. Кого вообще это волнует?
КТ315
49
Hi. Do we have a raid bot? Why nobody doing raids on X? Even RH mentioned this and nobody paying attention...whats the channel for hex memes? If mods cant run raids just insta...
H
31
Подскажите, а есть vault lite или ченить такое?) А то нужен вольт для похода в вольт, но весит он ~500 мб) как-то многовато для парочки запросов ))
Alexandr Orloff
17
блеать, почему так?? где в роутере это исправляется?
Арсен Маньяков 🇦🇲
16
void terminal_scroll() { memmove(terminal_buffer, terminal_buffer + VGA_WIDTH, buffer_size - VGA_WIDTH); memset(terminal_buffer + buffer_size - VGA_WIDTH, 0, VGA_WIDTH); ...
Егор
47
🌊 Ocean Nodes Dashboard Update 🚀 Hey, Oceaners! First off, a massive round of applause 👏to all of you for the amazing engagement since we launched Ocean Nodes. In just a few ...
KreigDK | Never DM first🌊
3
Всем привет! Подскажите, пожалуйста, в чем ошибка? Настраиваю подключение к MySQL. Либы лежат рядом с exe. Все как по "учебнику"
Евгений
16
А можете как-то проверить меня по знаниям по ассемблеру?
A A
132
Здравствуйте! У меня появилась возможность купить книгу "Изучай Haskell во имя добра!". Но я где-то слышал, что эта книга устарела. Насколько это правда??
E
22
люди, которые используют flameshot, к вам вопрос. Можно-ли поставить хоткей на создание скриншота? В программе есть отдел "горячие клавиши", но там все для редактирования, скр...
ThunDer104
11
Карта сайта