Ребят, а есть где описание как собрать сборку под GPU

NVIDA? Просто в докер файле изменить флаг cuda?

сборку чего? если хочется калди пообучать на гпу нвидиа, можно сразу образ из ngc взять

и нет, надо еще параметр arches поставить

Я хочу понять последовательность действий. Если можно просто образ с ngc взять, то супер. Но на сколько я понимаю там просто kaldi, но потом к нему нужно прикрутить Vosk-server. Я еще не совсем в структуре проекта разобрался, но Vosk-server не содержит в себе kaldi?

если вы хотите обучить модель, то это делается через калди, потом собираются необходимые объекты из полученного списка моделей (в тч chain), ivector и тд (в документации воска указано, какие объекты вам нужны), после чего загружаете модель в воск (сервер/апи) и пользуетесь) из ngc вы можете взять именно калди для обучения, а сам воск просто в виде докер-образа обычного, и к нему прикрутить модель

насколько я помню, то там нужно компилировать калди, но это уже прописано в докер-образе

Вот внутри себя использует kaldi, просто в docker файлах сборка идет вроде без использования GPU. Мне необходимо собрать систему для тестов распознания с использованием мощностей GPU.

а, ну так неясно было, нужно обучать до этого что-нибудь, либо нет)

Только в вашем случае надо вот это брать: https://github.com/sskorol/vosk-api-gpu/blob/main/Dockerfile.pc По предыдущей линке - для Jetson boards версия.

Ага, спасибо, а то смотрел прошло и думал "Так, тут arm архитектура..."

nvidia-smi показывает лишь поддерживаемую версию драйвером. Реальную картину покажет nvcc -V. Но вообще да, нужно собирать с той, которую покажет последняя команда.