Привет! а есть кого нибудь по MLops поспрашивать? (больше опсов

Question

DevOps — русскоговорящее сообщество

Andrey Vinogradov

Привет! а есть кого нибудь по MLops поспрашивать? (больше опсов

например)

#devops #programming #russian

0

20.01.2021

3 ответов

22 просмотра

Andrey Vinogradov Автор вопроса

666admin
Тут есть но не особо много народа, спрашивайте

вот имеется контейнер с питоном и к нему некоторое количество моделей. интересует вопрос как лучше организовать работу с моделями. раньше просто грузили модели в контейнер при билде и при старте загружали в память, но сейчас объем используемой оперативы слишком вырос, поэтому решили распилить на части. пока что видится несколько вариантов: при билде рассовывать модели по отдельным имаджам (пожалуй самый правильный с моей точки зрения), билдить один имадж со всеми моделями но при старте передавать параметром сервису какие модели использовать, билдить один имадж независимо от моделей а модели при старте загружать с s3 либо использовать какую нибудь шаренную файловую систему с моделями.

0

20.01.2021

666admin

Andrey Vinogradov
вот имеется контейнер с питоном и к нему некоторое...

Зависит от кол-ва моделей и их грузности (1 модель), правильно 1имейдж = 1модель в идеале, первое что на ум приходит kubeflow registrу c хранением на своём cdnЕ через DVP

0

20.01.2021

666admin · Accepted Answer

666admin

Тут есть но не особо много народа, спрашивайте

0

20.01.2021

172 похожих чатов

Привет! а есть кого нибудь по MLops поспрашивать? (больше опсов

3 ответов

Похожие вопросы