Так можно же тогда одним апсертом всё делать, нет?

4 ответов

4 просмотра

После каждого сообщения получается это делать если, то мы лочим код и не слушаем Кафку. В итоге код отстает от топика, а хотелось бы как то это асинхронно чтоли делать, пока мы записываем мапу в БД, то чтение сообщений из кафки чтобы не останавливалось. Не уверен в принципе что начал думать в правильном направлении и что этот кейс надо решать именно так)

Может, тогда вам это разбить на отдельные джобы? А мапу заменить на отдельное хранилище (либо кэш, либо временная таблица в базе данных) Первая джоба читает из Кафки, пишет в временное хранилище Вторая читает из временного хранилища, пишет в базу

Как вариант, да можно так сделать, просто думал может как то через ассинхронщину можно в одной джобе сделать

У вас, судя по всему БД не успевает делать upsert'ы. Тут или бустить БД, или укрупнять эти апсерты батчами.

Похожие вопросы

Обсуждают сегодня

А если изначально бот работал так : есть сайт онлайн школы. У каждого ученика свой кабинет. Где он авторизуется по своим данным. И уже в кабинете, на самом сайте делает оплату...
Денис 💡 Фрилансер
13
что это и почему оно? executor.start_polling(bot, skip_updates=True, on_startup=on_startup, File "/usr/local/lib/python3.10/dist-packages/aiogram/utils/executor.py", line 4...
𐌍𐌄 ᕓ𐌄𐌓𐌌Ꝋ𐌓𐌄
2
Напомните пожалуйста, v1.1 работает на PHP 8.2?
Ross
7
А что насчет FluentValidation? тоже ведь есть альтернатива у МС.
devman
13
Ребят, всем привет) Кто юзал/юзает Postgres? Я на MySQL сделал простенький сайт для диплома, но я внезапно обнаружил условие что надо было на Postgres) Проблема в том, что я н...
Dororo Steeeve
4
Спасибо. Начну с клиент-сервер. Там разберусь И еще вопрос - можно ли как то джобы отправлять на определенные клиенты? Например есть vdi и linux машина. Можно ли задачу оправ...
Sergey Ivanov
4
Читаю сейчас [нет, уже больше не читаю!] курсовую о Булгакове, написанную, похоже, с помощью ChatGPT. Это удивительный психоделический опыт. Текст в основном написан в стиле б...
✨ Uni [🌊 В отпуске]
1
Всем привет! подскажите, кто-то использовал vault + гео-распределенный etcd-кластер (мемберы в разных цодах)? какие есть подводные камни? и стоит ли вообще такое делать?
Василиса Васильева
4
Тут кто-то шарит в мед оборудовании?
Benz
10
Всем привет. Я только начал изучать nomad и есть несколько вопросов. Я хочу развернуть 1 сервер и 1 клиент чтобы потыкаться и пощупать как работает это. А можно ли развернуть...
Sergey Ivanov
2
Карта сайта