Всем привет, парни подскажите пожалуйста. Есть проект, в котором используется

нейронка YOLOv4 через, opencv с использованием CUDA. Мы развернули этот проект на сервере в 4-х потока на 4-х видеокартах. К этому проекту мы пытаемся подключить LSTM нейронку, написанную на TF, с поддержкой CUDA, но по какой-то причине, при использовании одного потока, все вычисления перекидываются не на ту видюху которую нужно, а при 4-х потоках вообще переключается на CPU, можете подсказать с чем это связанно, и в принципе возможно ли использовать интерфейсы CUDA одновременно через opencv и TF ?

3 ответов

18 просмотров

https://www.tensorflow.org/guide/gpu

Денис-Воронкин Автор вопроса
Ichini
https://www.tensorflow.org/guide/gpu

@Ichini Спасибо, я просто эту страницу уже всё перечитал вчера. Я просто думаю, возможно, что TF перехватывает управление драйверов Nvidia у opencv?

Могу порекомендовать использовать triton inference server от нвидии, он сам балансирует нагрузку на видеокартах

Похожие вопросы

Обсуждают сегодня

hi, Can you upvote? https://www.kaggle.com/code/durjoychandrapaul/rag-q-a-system-by-langchain-huggingface-for-pdf?scriptVersionId=204704280
A
1
-- Привет всем. -- Есть csv, проблема в том что он содержит очень много повторов по столбцам и по строкам. -- Решил перекинуть это в базу данных, чтобы было проще. Но я не ша...
Oleg Ivanov
1
Hi could you please help me with my two new projects? https://www.kaggle.com/code/hesankazemnia/rice-image-classification-cnn-pytorch https://www.kaggle.com/code/hesankazemnia...
Hesan
6
Как считаете - вопрос на собесе: «Как быстрее всего запустить ec2 машину в aws (в чистом аккаунте) и показать вывод от любой команды с нее» не очень ли сложный для условного м...
Sergey
50
Could you upvote and comment please? https://www.kaggle.com/code/tatianapetrushkevich/beginner-images https://www.kaggle.com/code/tatianapetrushkevich/python-for-beginners1 ...
Tazziyana
7
Господа, у меня вопрос. Что вообще такое этот ваш data science и data scientists? А то гуглю, а мне какую-то расплывчатую фигню говорят.
Inkosta
44
Исходя из ваших комментариев, получается, что чтобы получить марты в CH из данных в PG, неправильно тянуть сырые данные в CH и там их обрабатывать, лепить справочники и джойни...
unhingedlunatic
42
Может кто подсказать какие требования к изображениям для обучения Yolo v8? Как то разрешение, размер выделяемого обьекта в пикселях, оптимальное кол-во изображений. А то я пыт...
Владислав😎
16
Доброе утро. Подскажите, если если 4 корутины, внутри которых VideoCapture, то будут ли они работать асинхронно? Т.к. нагуглил, что Videocapture в моменте может быть открыт то...
Alexander👨‍💻
19
Коллеги, приветствую! Появилась не совсем тривиальная задача реализовать в nginx редирект HTTPS —> HTTP. Да, именно так, а не наоборот. Мы разрабатываем embedded устройство,...
Никита
24
Карта сайта