в большинстве случаев, модели уже есть готовые и написаны на плюсах. Если случаются проблемы с перформансом, что тогда? Приходится переписывать уже существующий код, чтобы выжать какие-то проценты по перформансу?
Нет, я сам как раз на питоне, но знаю ребят из других компаний, в которых как раз ML на плюсах
я в реалтайме звук и видео обрабатывал, хитростей много, сейчас тренд все на видюхи переносить, а там тоже есть тонкости, алгоритм, который был так себе на CPU может взлететь на видюхе. Можно еще какие-то части предвычислять и сохранять и т. п. С DL-алгоритмами видимо все вынесем на сервер, потому что спереть модель очень просто
Обсуждают сегодня