170 похожих чатов

Коллеги, вышел pg14. Никто не слышал может планируется все таки

его брокером для celery делать? А то там конвейеризацию запросов завезли. или может есть какой то еще модуль для работы с тасками напрямую через бд ?

14 ответов

20 просмотров

Бд для такого не предназначены

Roman- Автор вопроса
Максим Мартынов
Бд для такого не предназначены

Я ж говорю что завезли потоковую обработку. Так что норм будет. Надо пробовать и тестить.

Roman
Я ж говорю что завезли потоковую обработку. Так чт...

Причем тут заталкивание кучи запросов в один?

Roman- Автор вопроса
Максим Мартынов
Причем тут заталкивание кучи запросов в один?

Заталкивание в один это другое. https://www.postgresql.org/docs/14/libpq-pipeline-mode.html

Roman
Заталкивание в один это другое. https://www.postgr...

Базы плохо заменяют очереди. Они предназначены для хранения довольно редко изменяющихся данных, а в очереди сообщения появляются и пропадают. Если использовать здесь базу, в ней будут постоянно копиться записи. Даже если удалять их после отправки получателю, занятое ими место не будет отдано операционке до выполнения очередного VACUUM. Чем больше поток сообщений, тем чаще его приходится вызывать, а это блокировка. Технически сделать то можно, но профита не будет совершенно. А pipe тут ну вообще никаким боком

Roman- Автор вопроса
Максим Мартынов
Базы плохо заменяют очереди. Они предназначены дл...

Как я сказал профит есть в том что например можно убрать внешний брокер из схемы. Кроме того очередь можно реализовать и без update, например счетчиком. А так же добавить партиции по дате и просто дропать старые партиции. Понятно что есть проблемы. Но я и раньше видел решения для очередей в pg вполне рабочие для небольших нагрузок.

Roman
Как я сказал профит есть в том что например можно ...

Неужели наличие брокера в архитектуре приложения настолько проблема?

Roman- Автор вопроса
Максим Мартынов
Неужели наличие брокера в архитектуре приложения н...

Ну вот у нас есть artemis activemq удавалось ли кому с ним срастить celery так чтоб продакшен реди?

Roman
Ну вот у нас есть artemis activemq удавалось ли ко...

Если он поддерживает AMQP, то по идее это возможно

Roman- Автор вопроса
Максим Мартынов
Если он поддерживает AMQP, то по идее это возможно

https://docs.celeryproject.org/en/stable/faq.html#can-i-use-celery-with-activemq-stomp Can I use Celery with ActiveMQ/STOMP? Answer: No. It used to be supported by Carrot (our old messaging library) but isn’t currently supported in Kombu (our new messaging library). https://activemq.apache.org/components/artemis/documentation/latest/amqp.html pache ActiveMQ Artemis supports the AMQP 1.0 specification.

Roman- Автор вопроса
Максим Мартынов
Ну вот, пробуй

протоколы из коробки разные 0.9 несвоместим с 1.0 kombu не пойдет, есть только https://qpid.apache.org/proton/index.html клиент который поддерживает работу с artemis так что тут надо перепиливать Celery.

Roman
протоколы из коробки разные 0.9 несвоместим с 1.0 ...

Обещают к концу года https://github.com/celery/kombu/issues/624

Roman- Автор вопроса
Максим Мартынов
Обещают к концу года https://github.com/celery/kom...

от души, вот это уже вариант. Буду щупать тогда как выпустят.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта