170 похожих чатов

Коллеги, вышел pg14. Никто не слышал может планируется все таки

его брокером для celery делать? А то там конвейеризацию запросов завезли. или может есть какой то еще модуль для работы с тасками напрямую через бд ?

14 ответов

6 просмотров

Бд для такого не предназначены

Roman- Автор вопроса
Максим Мартынов
Бд для такого не предназначены

Я ж говорю что завезли потоковую обработку. Так что норм будет. Надо пробовать и тестить.

Roman
Я ж говорю что завезли потоковую обработку. Так чт...

Причем тут заталкивание кучи запросов в один?

Roman- Автор вопроса
Максим Мартынов
Причем тут заталкивание кучи запросов в один?

Заталкивание в один это другое. https://www.postgresql.org/docs/14/libpq-pipeline-mode.html

Roman
Заталкивание в один это другое. https://www.postgr...

Базы плохо заменяют очереди. Они предназначены для хранения довольно редко изменяющихся данных, а в очереди сообщения появляются и пропадают. Если использовать здесь базу, в ней будут постоянно копиться записи. Даже если удалять их после отправки получателю, занятое ими место не будет отдано операционке до выполнения очередного VACUUM. Чем больше поток сообщений, тем чаще его приходится вызывать, а это блокировка. Технически сделать то можно, но профита не будет совершенно. А pipe тут ну вообще никаким боком

Roman- Автор вопроса
Максим Мартынов
Базы плохо заменяют очереди. Они предназначены дл...

Как я сказал профит есть в том что например можно убрать внешний брокер из схемы. Кроме того очередь можно реализовать и без update, например счетчиком. А так же добавить партиции по дате и просто дропать старые партиции. Понятно что есть проблемы. Но я и раньше видел решения для очередей в pg вполне рабочие для небольших нагрузок.

Roman
Как я сказал профит есть в том что например можно ...

Неужели наличие брокера в архитектуре приложения настолько проблема?

Roman- Автор вопроса
Максим Мартынов
Неужели наличие брокера в архитектуре приложения н...

Ну вот у нас есть artemis activemq удавалось ли кому с ним срастить celery так чтоб продакшен реди?

Roman
Ну вот у нас есть artemis activemq удавалось ли ко...

Если он поддерживает AMQP, то по идее это возможно

Roman- Автор вопроса
Максим Мартынов
Если он поддерживает AMQP, то по идее это возможно

https://docs.celeryproject.org/en/stable/faq.html#can-i-use-celery-with-activemq-stomp Can I use Celery with ActiveMQ/STOMP? Answer: No. It used to be supported by Carrot (our old messaging library) but isn’t currently supported in Kombu (our new messaging library). https://activemq.apache.org/components/artemis/documentation/latest/amqp.html pache ActiveMQ Artemis supports the AMQP 1.0 specification.

Roman- Автор вопроса
Максим Мартынов
Ну вот, пробуй

протоколы из коробки разные 0.9 несвоместим с 1.0 kombu не пойдет, есть только https://qpid.apache.org/proton/index.html клиент который поддерживает работу с artemis так что тут надо перепиливать Celery.

Roman
протоколы из коробки разные 0.9 несвоместим с 1.0 ...

Обещают к концу года https://github.com/celery/kombu/issues/624

Roman- Автор вопроса
Максим Мартынов
Обещают к концу года https://github.com/celery/kom...

от души, вот это уже вариант. Буду щупать тогда как выпустят.

Похожие вопросы

Обсуждают сегодня

/////////////////////////////////////// TChart / TLineSeries - сохранение данных (текстовый файл) /////////////////////////////////////// добрый день / работа с графиком: 1....
livontiy
14
Мне интересно, скорее людей здесь используют D, Rust, C/C++ для решения реальных прикладных задач за деньги?)
Evil Satanson
43
кто поможет крякнуть чит? (реверс инжиринг) чтобы разблокировать премиум версию
Mёdkinson Medvezhkin
39
А как старый хаскел с новым стыковать ? потому как тут работает https://play.haskell.org/saved/C3xpMzcd, а вот тут https://stepik.org/lesson/7602/step/9?unit=1473 нет ошибка C...
Fedor
131
давайте за механические клавиатуры потрём, мне тут неучтенных денег упало и их можно потратить на что-то такое, вот думаю про dark project kd87a, кто-то имеет что-то подобное?
Oleg Nosov
24
Подскажите, сейчас что то есть (JS модуль какой-нибудь), что можно использовать для: 1) переваривания javascript codа из html fileа, т.е. разбивки, на переменные, команды, бло...
Iar De
15
Вопрос по организации кода. Пилю свой велосипед логгер Есть у меня множество уровней сообщений. Я набрасываю сообщения в стринглист, а когда они нужны, вызываю их через функц...
Serjone
21
тут же люди сидят начитанные. хочу написать кроссплатформенный анонимный сетевой чат. данный проект ни на что не претендует, скорее просто студенческая работа. можете посовето...
Óðinn
12
Ребя, тут спрашивают, что лучше использовать для юзербота на java? 👀
Mars BATYA [NYА]
12
Вопрос я правильно понимаю что в коде newtype ArrowMap k v = ArrowMap { getArrowMap :: k -> Maybe v } getArrowMap есть функция типа k -> Maybe v, если да, то не понимаю задач...
Fedor
64
Карта сайта