нейронка YOLOv4 через, opencv с использованием CUDA. Мы развернули этот проект на сервере в 4-х потока на 4-х видеокартах. К этому проекту мы пытаемся подключить LSTM нейронку, написанную на TF, с поддержкой CUDA, но по какой-то причине, при использовании одного потока, все вычисления перекидываются не на ту видюху которую нужно, а при 4-х потоках вообще переключается на CPU, можете подсказать с чем это связанно, и в принципе возможно ли использовать интерфейсы CUDA одновременно через opencv и TF ?
https://www.tensorflow.org/guide/gpu
@Ichini Спасибо, я просто эту страницу уже всё перечитал вчера. Я просто думаю, возможно, что TF перехватывает управление драйверов Nvidia у opencv?
Могу порекомендовать использовать triton inference server от нвидии, он сам балансирует нагрузку на видеокартах
Обсуждают сегодня