Всем привет! Есть кейс, с которым ранее не сталкивался, хотел бы

совета вашего спросить, как лучше его решить.
Суть:
Читаем из Кафки консьюмером сообщения, постоянно обновляя мутабельную мапу, в которой всегда последние не нулевые значения каждого поля по каждому ID, пришедшему из кафки.
В мапе ID уникальные.
Далее надо эту мапу постоянно overwrite в постгрес.
Как грамотно распараллелить код, чтоб пока мапа пишется в постгрю, продолжать считать из кафки, обновляя мапу?
Когда запись в постгрю будет завершена, берем сразу текущую мапу и опять в постгрю пихаем..
За ранее спасибо за советы, надеюсь))

7 ответов

10 просмотров

Из мапы значения удаляются?

А можете пример мапы написать и в какую примерно таблицу она скидывается? Мапа вида: {ID: value} и пишется в соотв. таблицу?

Roman-Druzyk Автор вопроса

Нет, мутабельная мапа, после каждого сообщения из кафки в мапе апдейтится value по ключу

Roman-Druzyk Автор вопроса

Мапа прям стандартная Map[String, Map[String, String]], но приземлять надо в таблицу не с двумя столбцами key-value, a внутреннюю мапу я парсю, если вы к этому

не проще временную таблицу сделать вместо мапы? Данные из временной таблицы переносить в ту постоянную, что в пг, а после завершения джобы - дропать временную таблицу

А у вас в каждом сообщении полная мапа которую сохранить целиком?

Roman-Druzyk Автор вопроса

Не, каждое сообщение обновляет одну запись k, v в мапе

Похожие вопросы

Обсуждают сегодня

Подскажите, а есть vault lite или ченить такое?) А то нужен вольт для похода в вольт, но весит он ~500 мб) как-то многовато для парочки запросов ))
Alexandr Orloff
17
Всем привет, есть небольшая проблема Есть такой скрипт document.addEventListener('DOMContentLoaded', function () { const sliderTabs = document.querySelectorAll('.s...
A da
8
@go1337 @dblackCat Привет. Все ещё дрочусь с fastpanel. Добавил второй домен который должен смотреть в рут того же сайта, но так как это просто домен, а не сайт, я не могу ему...
Ross 🦴
9
До речі, в ево нема можливості чи якого розширення щоб з адмінки з телефона зайти і терміново щось в верстці поправити?
Женя
7
кто-нибудь пользуется тайм-трекерами во время работы? так много разных нагуглил, может есть что-то популярное
Lencore
8
Пацаны. Я разрабатываю софт для инвайтинга на телетон, и столкнулся с такой проблемой, в один из чатов не могу приглашать никого, не дает добавлять, в то же время через официа...
Kernel Panic
11
Скажите, а кому нужен Currency как отдельный плагин вместо полноценного ecommerce в OctoberCMS? Кто-то использует его уже или планирует в будущем? Может я что-то не понимаю?
Igor
13
Розмовами про Рево мені нагадали часи, коли шаблони правилися прямо в адмінці. Хто в курсі, чому відійшли від цієї практики, так блейд не працює? Доволі зручно ж було (інколи)
Женя
3
Всем добрый вечер, Рад оказаться в кругу единомышленников. Начинаю погружаться в мир .net веба. Зовут Ерасыл 🖖 У меня назрел вопрос: Какой процент проектов, прошедшие через в...
Ерасыл
6
Чому? Да тому що без GiT не уявляю нормального проекта а коли код в базі то то так собі
Dmytro Lukianenko
3
Карта сайта