ClickHouse не тормозит
nginx_ru
Data Science Chat
DBA - русскоговорящее соо...
Tarantool
☁️ AWS_RU
PostgreSQL + 1C + Linux
MongoDB Russian
Yandex Cloud - Официальны...
Big Data Science :: AI / ...
dbGeeks
React: русскоязычное сооб...
opencv_ru
catboost_ru
Kaggle
ScyllaDB
Всем привет У меня есть большая модель yolov7, вычисления которой я
хочу распределить между двумя устройствами. Грубо говоря, на jetson'e выполняется первая половина модели, результаты сохраняются в виде тензоров, которые затем передаются на ноутбук, на котором заканчивается выполнение модели. Подскажите пожалуйста, кто-то сталкивался с подобным подходом, на сколько он жизнеспособный? И есть ли какие-то материалы по этому направлению?
4 ответов
Привет. зачем так сложно ?. может проще на Джетсон все сделать и все ? или вопрос оптимизации ?.
Что вы имеете ввиду под "первой половиной модели"?
qgjlvc
Автор вопроса
Привет. зачем так сложно ?. может проще на Джетсон...
Вопрос оптимизации. Кадры 8к в течение некоторого времени собираются через камеру, присоединенную к джетсону. Затем они передаются на сервер, где идет обработка. Я хотел как-то ускорить этот процесс за счет переноса части вычислений на джетсон.
qgjlvc
Автор вопроса
Что вы имеете ввиду под "первой половиной модели"?
Если я правильно понимаю устройство моделей, файл весов представляет собой просто набор вещественных чисел, которыми инициализируется вычислительный граф. Кажется, будто бы можно как-то разделить граф вычислений на 2 части и распарсить файл весов для каждой из них по отдельности.
Похожие вопросы
Обсуждают сегодня