170 похожих чатов

Всем привет гайз, есть вопросик. Вот есть у меня селери таска,

которая отправляет сообщения юзерам.
Сейчас он у меня запускается каждые 10 секунд чтобы проверить очередь и обработать запросы если в очереди что то есть.

Теперь проблема.
У меня получается так что, за 10 секунд селери не успевает обратотать все запросы, и запускает новый таск sendMail
И берет те запросы из очереди которые уже обрабаотываются предыдущим запустившимся процессом.
Получается что 1 запрос обрабаотывается 2-3 раза...

Как можно сделать, чтобы селери таска блокалась, пока предыдущая запущенная не отработает полностбю?

17 ответов

6 просмотров

хранить где-нибудь лок? смотреть, если он есть, просто выходить, следующая таска попробует еще раз, если уж они так часто запускаются я бы еще обернул в try/except и в finally снимал этот лок. ну и на всякий случай добавлял к нему timestamp, чтобы он гарантированно протухал через какое-то время (это перестраховка, конечно, но мало ли как упадет процесс, может возникнуть ситуация, что лок не отпустится)

прочитай про примитивы синхронизации

https://docs.python.org/3/library/asyncio-sync.html

Может запускать не через время, а чтобы по завершении таск сам себя запускал с отложкой на 10 сек? Я так делал

Можно попробовать с вот этим попердолиться https://docs.celeryproject.org/en/stable/userguide/tasks.html#Task.rate_limit

Но вообще выглядит так, будто celery тебе здесь вообще не нужен: простенький сервис, который сообщения берет из очереди должен с этим справиться.

〽️𝔢𝔦𝔢𝔯
https://docs.python.org/3/library/asyncio-sync.htm...

При чем тут асинк? И зачем лочить? Ведь самый простой способ синхронизации это чтобы все работало в одном процессе/потоке. The best way to synchronize data is to put them in a one thread. Т.е. у него просто один скрипт который сам себя запускает. Как я это вижу.

Kel0- Автор вопроса
Роман
Но вообще выглядит так, будто celery тебе здесь во...

там кроме отправки сообщений, много других тасков живут, надо все асинхронно выполнять А селери для этого отлично подходит думаю

Kel0
там кроме отправки сообщений, много других тасков ...

Он советует тебе микросервис создать. Фактически аналог моего совета поместить все в один воркер, что тоже хорошая идея.

Alex
При чем тут асинк? И зачем лочить? Ведь самый прос...

есть у тебя асинхронные таски в очередь становятся, то тебя поток не спасет

Kel0
там кроме отправки сообщений, много других тасков ...

ну про другие таски ничего не могу сказать, кроме того, что если у тебя масшатиборования нет, то от celery не то, чтобы много толку, конкретно эту задачу проще тебе будет засунуть в отдельный сервис и пускай крутится.

Alex
чо?

воркер один на конкретный вид таски спасет. А если несколько воркеров достают из очереди которая пополняется каждые 10 секунд, то ты сам должен понимать что будет

Alex
Он советует тебе микросервис создать. Фактически а...

ну "микросервис" испохабленное слово, но смысл такой, да.

〽️𝔢𝔦𝔢𝔯
воркер один на конкретный вид таски спасет. А если...

Ты вообще читал что я написал? Ты создаешь таск который делает что-то (разгребает задачи) и по окончании ставит себя в очередь на выполнение. Всё. Не будет никакой гонки.

Похожие вопросы

Обсуждают сегодня

@Aiwan что такое база образца?
Alexey
27
Не многие знают, а кто знает, тот уже успел забыть, что в далёком 2004 году эта игра произвела настоящий фурор, настолько революционной была технология, применяемая для её соз...
ICCID
4
Хотя у меня сейчас есть более сложная задача, вот её думаю: как объяснить челу переходного возраста противоположного полу, обучающегося в польском колледже (а-ля наш техникум)...
Вячеслав Кузьменко
15
коллеги, добрый вечер! А никто не знает как модальная форма может себя закрыть? Ну допустим модальная форма определила, что смысла ей работать нет и хочет вернуть modalResult...
Михаил
83
Добрый день Хочу начать обучение языку, не являюсь представителем it, буду благодарна за помощь, совсем пока не понимаю ничего) Подскажите, пожалуйста, где можно начать первы...
Sara Lala
30
верно что я могу удалить эти addq и subq т.к. со стеком никакого взаимодействия нет (исключая call)?
Michael
16
Hi Everyone! To all Are you Looking for Interview Support at the Lowest Price? Look no further! Then contact us We offer Interview Support for a low cost variety of technol...
Rambabu Nallamilli
3
средствами IBX как-то можно выполнить запрос insert ... returning?
Igor
31
Hi there everyone Is there anyone who have not started hamster bot yet? I need only one, I'll be glad if you do this for me DM if you haven't yet
Mehrshad
53
А если изначально бот работал так : есть сайт онлайн школы. У каждого ученика свой кабинет. Где он авторизуется по своим данным. И уже в кабинете, на самом сайте делает оплату...
Денис 💡 Фрилансер
13
Карта сайта