172 похожих чатов

Привет! а есть кого нибудь по MLops поспрашивать? (больше опсов

например)

3 ответов

11 просмотров

Тут есть но не особо много народа, спрашивайте

Andrey-Vinogradov Автор вопроса
666admin
Тут есть но не особо много народа, спрашивайте

вот имеется контейнер с питоном и к нему некоторое количество моделей. интересует вопрос как лучше организовать работу с моделями. раньше просто грузили модели в контейнер при билде и при старте загружали в память, но сейчас объем используемой оперативы слишком вырос, поэтому решили распилить на части. пока что видится несколько вариантов: при билде рассовывать модели по отдельным имаджам (пожалуй самый правильный с моей точки зрения), билдить один имадж со всеми моделями но при старте передавать параметром сервису какие модели использовать, билдить один имадж независимо от моделей а модели при старте загружать с s3 либо использовать какую нибудь шаренную файловую систему с моделями.

Andrey Vinogradov
вот имеется контейнер с питоном и к нему некоторое...

Зависит от кол-ва моделей и их грузности (1 модель), правильно 1имейдж = 1модель в идеале, первое что на ум приходит kubeflow registrу c хранением на своём cdnЕ через DVP

Похожие вопросы

Обсуждают сегодня

Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
База данных не поможет. Шифрование не поможет. Какие там ещё варианты? Накидывайте.
КТ315
20
А табстоп это сообщение от окна или от элемента управления?
The Bird of Hermes
18
А как лучше конвертировать физический адрес в виртуальный при маппинге? В случае ядра у меня, например, direct mapping, первые 768МБ я как есть мапплю в higher half, а остальн...
Evg Resh
26
Открыл свой двухкилобайтный экзешник в x32dbg, а тут какая-то хрень. Смущает кнопка "выполнить до пользовательского кода", а что ещё может быть в файле помимо него ?
НѣкъиⰘижєжєиꙁъвьсєсвѣтьноѣсѣтиѥсть•
11
Мне были интересны дишные хаки и я нашёл любопытный способ на форуме через __traits, что-то вроде int delegate(int) fac = (int n) => n == 0 ? 1 : n * __traits(parent, {})(n - ...
Constantin F.
1
Вопрос тем кто смотрит видео и слушает подкасты - как вы потом ищете нужную вам информацию? Вот статью я прочитал, потом могу искать нужную мне часть банальным поиском. Пропус...
Aleksandr Druzhinin
4
Всем привет, подскажите/посоветуйте пожалуйста. Фаердак компоненты, имею одно место где бизнес хочет видеть при открытии формы список всех клиентов, это порядка 30к. Мои дово...
Sasha Sch
14
Ребят, если кто в курсе - скажите, а в загранке такое же засилье маркетплейсов? или там простые сермяжные интернет-магазины живут попроще?
Андрей [aharito] Харитонов
14
Коллеги, доброе утро. Запустил на удаленном хосте приложение (ручками зашел туда по ssh и запустил, не командой удаленно). Создал потом ssh-туннель, и с моей машины приложение...
Δημήτηρ
9
Карта сайта