У кого есть опыт работы с vgpu? меня смущает, что

там нужна лицензия от nvidia, но подробной информации найти не удалось

Привет! Какая информация интересует?

https://www.nvidia.com/ru-ru/data-center/buy-grid/ - можно начать здесь

тоесть по сути яндекс дает всего лишь железо. Тогда вопрос, что выбрать для транскодера на основе ffmpeg + фильтры gpu или vgpu? и второй вопрос: тоесть просто так купить инстанс с windows и поиграть в киберпанк как на aws, не выйдет без доп лицензии от nvidia

NVIDIA V100 без vGPU поддерживает только Compute API (CUDA, DirectCompute, OpenCL™, OpenACC®). Для включения графики (OpenGL, DirectX) требуется vGPU + лицензия. По поводу поддержки nvenc/nvdev прям с ходу не скажу. В спецификации для карты они не заявлены, потому что V100, в основном, для ML. Пошпилить на голой NVIDIA V100 не получится. Если мы говорим про AWS, то про какой тип инстанса и какую карту?

а можете уточнить, можно ли vGPU пользовать без лицензии для CUDA? (инференсить сетки много памяти не требует)

Нет, vGPU без лицензии использовать нельзя.

сам я таким не увлекаюсь ибо жирно, пока инстанс, пока трафик) но по чатам и интернету видно,что в основном используют g4dn.xlarge g4ad.xlarge карты NVIDIA T4 AMD Radeon Pro V520

для чистый можно использовать обычные gpu инстансы

он стоит как сбитый боинг.. буду смотреть в сторону torch-serve as a service у AWS 🙁

ну сбитый боинг дороже,но 116к, недешево

это, на секунду, одна машина, с картой почти четырёхлетней давности 🙂