Привет. Друзья-коллеги, подскажите вот такой момент. С недавнего времени приложение

Question

Привет. Друзья-коллеги, подскажите вот такой момент. С недавнего времени приложение

под нагрузочными тестами начало класть СУБД - плодятся idle, постепенно выедается память и в итоге oom-killer убивает постгресовый процесс. Если посмотреть, что там исполнялось, то видно, что все "лишние" idle в состоянии rollback. Причем разработчики поясняют, что rollback у них - норма и им они завершают все read-only тразнзакции 🤨 Типа изменений же не было, зачем коммит? Моя думать, что сие не true, но непонятно, как гуглу сформулировать запрос, чтобы понять. Спрашиваю у людей )

#backend #devops #pgsql #programming #russian

0

11.09.2023

19 ответов

14 просмотров

Alexander Cheremukhin Автор вопроса

Konstantin Zaitsev
Да нет разницы как завершать. Просто подключение н...

ок. спасибо. С завершением тоже неочевидно. На стороне приложения выделенный пул соединений не растет. Выделено 50 коннектов, в него упирается и все. Дальше не плодится. Растет только на стороне субд. Может быть так, что в рамках этих 50-ти открываются постоянно новые на стороне субд и не закрываются?

0

11.09.2023

Роман Жарков

Дело не в idle и не в rollback

0

11.09.2023

Konstantin Zaitsev

Alexander Cheremukhin
ок. спасибо. С завершением тоже неочевидно. На сто...

Да же не знаю что на стороне СУБД может открывать, только если dblink какой на себя для автономных транзакций

0

11.09.2023

Yaroslav Schekin

> плодятся idle, постепенно выедается память В норме этого не должно быть. Какая версия PostgreSQL (SELECT version();)? И как и чем "выедается память"? > и в итоге oom-killer убивает постгресовый процесс может быть, эти "тесты" делают что-то нестандартное? Или, возможно, это обычное "убивай непричастных" поведение OOM killer? ;) > Моя думать, что сие не true Отчасти это так — но эта часть, в основном, теоретическая (состоит в том, что никаким данным, полученным из откаченной транзакции, "снаружи" нельзя доверять — но на практике этим PostgreSQL почти не пользуется). И к таким эффектам отношения не имеет.

0

11.09.2023

Роман Жарков

Там пулер держит соединения.

0

11.09.2023

Yaroslav Schekin

Роман Жарков
Там пулер держит соединения.

И пусть держит. В норме это как минимум не имеет значения, а обычно только улучшает ситуацию.

0

11.09.2023

Роман Жарков

Yaroslav Schekin
И пусть держит. В норме это как минимум не имеет з...

Я про idle.

0

11.09.2023

Տ𝖊𝖗𝖌乇y

Скорее всего у вас лимит коннекшинов, а автоматизаторы так хороши в коде что не знают как переиспользовать коннекшин и под каждый тестик создают новый Простое решение, постучать по головке автоматизаторам

0

11.09.2023

Konstantin Zaitsev

Տ𝖊𝖗𝖌乇y
Скорее всего у вас лимит коннекшинов, а автоматиза...

Лимит не приводит к oom, но в целом как то так да

0

11.09.2023

Ilya Anfimov

>Моя думать, что сие не true, Зря.

0

11.09.2023

Alexander Cheremukhin Автор вопроса

Տ𝖊𝖗𝖌乇y
Скорее всего у вас лимит коннекшинов, а автоматиза...

после танцев с бубном очевидность пропала окончательно ) Проблема только в debian(11,12). Аналогичные машины по дискам, цпу, памяти и настройкам постгреса дают разные результаты. В Centos7 держит нагрузку, в дебиан падает

0

12.09.2023

Yaroslav Schekin

Alexander Cheremukhin
после танцев с бубном очевидность пропала окончате...

Так что Вы сделали-то, конкретно (и с какими результатами)? И какая сейчас ситуация?

0

12.09.2023

Sergey Gr

Alexander Cheremukhin
после танцев с бубном очевидность пропала окончате...

Centos 7 не сильно старше указаных Debian'ов?

0

12.09.2023

Alexander Cheremukhin Автор вопроса

Sergey Gr
Centos 7 не сильно старше указаных Debian'ов?

CentOS Linux release 7.9.2009 (Core)

0

12.09.2023

Alexander Cheremukhin Автор вопроса

Yaroslav Schekin
Так что Вы сделали-то, конкретно (и с какими резул...

взяли 2 одинаковые ВМ, из стандартных настроек поправили только shared_buffers. На нагрузочном тесте центос держит нагрузку стабильно, на дебиан через пару минут начинает есть память и падает

0

12.09.2023

Yaroslav Schekin

Alexander Cheremukhin
взяли 2 одинаковые ВМ, из стандартных настроек поп...

Это неконкретное описание, извините. Что (какой процесс(ы)) начинает "есть память", как Вы это видите (каким инструментов), что в логах OS и PostgreSQL, когда "падает"? И да, Вы PostgreSQL-то обновили? ;)

0

12.09.2023

Alexander Cheremukhin Автор вопроса

Yaroslav Schekin
Это неконкретное описание, извините. Что (какой пр...

угу. До 14.9. В логах:

0

12.09.2023

Yaroslav Schekin

Alexander Cheremukhin
угу. До 14.9. В логах:

Показывайте тексты текстом. И этого недостаточно, правда — всё остальное нужно.

0

12.09.2023