Всем привет. Есть здесь кто-то кто шарит в queue. Есть сервис,

Question

Всем привет. Есть здесь кто-то кто шарит в queue. Есть сервис,

который взимает инвенты с других сервисов и сохраняет их до elasticsearch.
Есть второй сервис, который сейчас работает не так как нужно. После того как мы сохранили инвенты к эластику, мы создаем новый документ в firebase в коллекцию, на которой у нас стоит триггер. Когда появляется новый документ в этой коллекции – запускается cloud function (допустим emailPublisher, который отправляет ивент на почту).

Проблема этой реализации в том, что по триггеру может запуститься функция одновременно для нескольких ивентов, а для нас важно, чтобы следующий ивент не прорабатывался пока предыдущий не обрабатывался.

И если бы у нас был один парнер, можно было бы использовать google pubsub с queue и все работало бы.
Но у нас около 3000 парнеров, и эта очередь станет очень большой и инвенты будут прорабатываться долго, поэтому нужно как-то сделать так, чтобы ивенты одного парнера прорабатывались в порядке очереди, но при этом ивенты разных кастомеров могут прорабатываться параллельно.

У нас на проекте все работает через Google Cloud.

Может, есть какие-то идеи у кого-то?

#backend #javascript #node.js #programming #russian

0

11.07.2023

3 ответов

23 просмотра

Эркин Бахтушкин

Google Cloud Tasks посмотри, может поможет.

0

11.07.2023

Alex Автор вопроса

Артем
Изначально выглядит как пет-проект. Если вам нуж...

Неа. Достаточно большой проект с большими нагрузками. Все построено на cloudFunctions. Отправка емейла - образно. Там на самом деле идет отправка событий в несколько сторонних сервисов. По сути вот детальная картина. Мы получили 1000 событий из майкрософта Мы переделали события в какой-то другой вид (привели к нашему стандартному интерфейсу). Затем сохранили ивенты в еластик. Затем тут же взяли айдишники этих ивентов распилили их на чанки по 15 айдишников и сделали 1000 /15 = 67 записей в коллекции eventsQueue.(если бы не было лимита в 9 минут на cloud functions то пилить на чанки не пришлось бы). В базе сработал тригер и запустил воркер для 67 документов и начал их рассылать куда нужно (с дополнительной логикой, наполнением).

0

11.07.2023

Артем · Accepted Answer

Изначально выглядит как пет-проект. Если вам нужно отправлять уведы на почту, после появления записи в firebase, то нельзя просто создавать триггер (пилить мессендж в брокер) в том месте, где вы запись создаете? (Сервис который её делает отправляет сообщение в очередь) Вообще такие триггеры — хуйня полная. В любом случае вы можете по триггеру пилить сообщение в очереди, откуда их вычитывать, хз

170 похожих чатов

Всем привет. Есть здесь кто-то кто шарит в queue. Есть сервис,

3 ответов

Похожие вопросы