на TensorRT
В идеале проблемы не вижу. Грамотный пайплайн на gstreamer и мб одно копирование в буфер для трт
там ещё хитрый препроцессинг, и между нейронками тоже есть препроцессинг постпроцессинг
несколько нейронок друг за другом
Питонячий препроц адаптировать пытаетесь?
ну всё сначала прототипировалось на питоне, щас лепим боевой образец
А инференс на плюсах через что ?
я это вижу так - получаю кадр с rtsp с gstreamer, декодирую его, передаю указатель адреса фрейма в gpu для препроцессинга на nvidia npp, который записывает результат в буфер TensorRT, потом снова npp, и т.д до результата
Обсуждают сегодня