Всем привет! Использую Celery чтобы запускать исполняемый файл через subprocess.run. Проблема

Question

Всем привет! Использую Celery чтобы запускать исполняемый файл через subprocess.run. Проблема

в том, что процесс может сожрать всю память и повесить VPS. Поставил лимит в docker-compose:
deploy:
resources:
limits:
cpus: '0.5'
memory: 18G
Задача, что вешала VPS прошла, однако, судя по htop память не была возвращена в полном объёме системе. Следующая же задача свалила VPS опять.
Вопрос - что может быть не так?

#backend #programming #python #russian

0

25.10.2023

8 ответов

21 просмотр

Philipp Bondarev Автор вопроса

Jürgen Romins
А кубер причем?

Кубер пока не использую. Поднимается на VPS через docker context.

0

25.10.2023

Jürgen Romins

Philipp Bondarev
Кубер пока не использую. Поднимается на VPS через ...

Тьфу сорян я криво посмотрел. А если сделать renice

0

25.10.2023

Philipp Bondarev Автор вопроса

Jürgen Romins
Тьфу сорян я криво посмотрел. А если сделать renic...

Эмм, внутри контейнера? И чему, воркеру Celery или запущенному экзешнику?

0

25.10.2023

Jürgen Romins

Philipp Bondarev
Эмм, внутри контейнера? И чему, воркеру Celery или...

Перед запуском subprocess можно попробовать сделать os.nice(число) или как то так

0

25.10.2023

Philipp Bondarev Автор вопроса

Jürgen Romins
Перед запуском subprocess можно попробовать сделат...

Я сейчас попробую выставить celery_app.conf.worker_max_memory_per_child в 6 Gb. Пусть мочит воркер после тяжёлой таски. Если не получится, попробую с os.nice. Только я не понял, предлагается понизить приоритет, чтоб он не отжирал всё у системы или повысить, чтоб всё что есть отдавалось?=)

0

25.10.2023

Jürgen Romins

Philipp Bondarev
Я сейчас попробую выставить celery_app.conf.worker...

Тебе ж надо понизить. Собственно в докере лимиты и реквесты работают через жопу

0

25.10.2023

Philipp Bondarev Автор вопроса

Jürgen Romins
Тебе ж надо понизить. Собственно в докере лимиты и...

Спасибо, попробую. Надеюсь поможет.

0

25.10.2023