но периодически падает с ошибкой -bash: fork: Cannot allocate memory. Потом я перезапускаю supervisor и все опять работает.
Модель работает на Flask, http сервер - gunicorn.
Есть мысль, что просто через несколько запросов в API на сервере заканчивается оперативная память. Это значит ее надо как-то освобождать? Нигде не видел, чтоб это надо было делать вручную. В общем не знаю, относится вопрос к серверу gunicorn или же к косяку в моем коде, где каждый новый запрос подгружает 2гб модель в память и забивает ее.
что думаете?
похоже количество процессов ограничено,нужно увеличить
где каждый новый запрос подгружает 2гб модель в память и забивает ее. хех, наверное всё-таки память
Обсуждают сегодня