Битрикс для разработчиков
Чат экстремального погром...
Qt
symfony
Ansible
Unity Engine: вопрос - от...
Nuxt.js | Vue SSR
Боты на Telegraf
Data Science Chat
Android Architecture
QA — русскоговорящее сооб...
DBA - русскоговорящее соо...
Tarantool
Unreal Engine
☁️ AWS_RU
Blender_ru: вопрос-ответ.
MongoDB Russian
Yandex Cloud - Официальны...
Git
DevsHelper
Big Data Science :: AI / ...
pro.kafka
3ds Max
1C
Вокруг да около Zigbee
Android Declarative
freebsd_ru
Atlassian Community - Rus...
Чат про Fusion 360 и 3D
OctoberCMS
ru_gitlab
Godot Engine (Russian)
MySQL
Yii Framework 2
Data Engineers
Чат Tableau
Cinema 4D
Evolution CMS
Odoo talks & fun
Software Design/Architect...
pro.buildsystems
Webpack — русскоговорящее...
Yii Framework 3
QA juniors
RUSCADASEC community: Киб...
ru_hashicorp
Grafana Loki
VictoriaMetrics_ru
.NET Group
Google Cloud Platform_ru
DevSecOps - русскоговорящ...
![Netbeans [RU]](https://image.telq.org/channel_avatar_1102508152_467588515831589735_mini.jpeg){kind=avatar}
Netbeans [RU]
Всем привет!) Можно кому-нибудь позадавать вопросы про деплой моделей с
помощью AWS Lambda?
6 ответов
более конкретный вопрос спросить можешь) не уверен что совсем по адресу чат, но +- подходит
Мы поддерживаем выкатку под скоринг в серверлесс (по сути в любой FaaS, в т.ч. Lambda), какие у вас вопросы?
Gena
Sidorov
Автор вопроса
больше было интересно про нюансы с деплоем в AWS (например через лямбду) сможет ли она прогонять картинки через сегментационную модель и возвращать маски (тоже картинки) какие +- по сравнению с сейджмейкером и тд
больше было интересно про нюансы с деплоем в AWS (...
можно любую модель использовать, если она в рамки ограничений лямбды поместится, у AWS был пример даже какого-то инференса в блоге как любой подобный сервис, чем у вас выше загрузка тем менее выгоден серверлесс; дальше вы берете какой-то контейнеризованный сервис с резервом компьюта (fargate например), тут вы платите за компьют всегда, даже если трафика нет Sagemaker сервисы по-моему это специальные контейнеры с обвязкой, что-то вроде того же fargate (если не он же)
Gena
Sidorov
Автор вопроса
можно любую модель использовать, если она в рамки ...
Спасибо большое за информацию!
больше было интересно про нюансы с деплоем в AWS (...
Надо посмотреть особенности/ограничения AWS lambda, главные проблемы : - cold start - execution time - billing - local development В случае ML это будет крайне затратно часто загружать можешь в память при старте Посмотрите на sagemaker , очень просто делать деплои, стоимость сопоставима с арендой ec2 инстанса Функционально это кажется unicorn web server с апи который сделать inference скриптом что вы указали Будет свой регистр моделей, тоже удобно
Похожие вопросы
Обсуждают сегодня