речи с использованием gpu? Пробовал затестировать распознавание на gpu и cpu при нагрузке: N пользователей в секунду. Но при тестировании большого количества записей с одним пользователей - небольшой профит был заметен.
При увеличении нагрузки - становилось хуже, медленней.
Я так понимаю это связано с тем, что gpu плохо параллелится? Слышал на какой-то лекции с Ютуба, но очень давно - вдруг кто тоже вспомнит/наткнется - скиньте, пожалуйста 🙏
Или я не прав?
все думаю зависит от конкретного случая, а в теории можно распараллелить нормально только на кол-во ядер, а на gpu их может быть тысячи, но ядра эти выполняют ограниченное кол-во инструкций и работают с ограниченным куском памяти, + надо учесть время на закачку данных туда и обратно, бывает на небольших данных профит за cpu а на большой выборке за gpu
Спасибо большое за пояснение!
Обсуждают сегодня