например)
Тут есть но не особо много народа, спрашивайте
вот имеется контейнер с питоном и к нему некоторое количество моделей. интересует вопрос как лучше организовать работу с моделями. раньше просто грузили модели в контейнер при билде и при старте загружали в память, но сейчас объем используемой оперативы слишком вырос, поэтому решили распилить на части. пока что видится несколько вариантов: при билде рассовывать модели по отдельным имаджам (пожалуй самый правильный с моей точки зрения), билдить один имадж со всеми моделями но при старте передавать параметром сервису какие модели использовать, билдить один имадж независимо от моделей а модели при старте загружать с s3 либо использовать какую нибудь шаренную файловую систему с моделями.
Зависит от кол-ва моделей и их грузности (1 модель), правильно 1имейдж = 1модель в идеале, первое что на ум приходит kubeflow registrу c хранением на своём cdnЕ через DVP
Обсуждают сегодня