возможно, направите меня в нужную сторону. Вопрос вызван следующими соображениями: оперативки в несколько раз больше, чем видеопамяти. Хотелось бы, чтобы меньше упираться в IO, пока на гпу варится один батч, жадно загружать в память и готовить для загрузки на гпу следующие батчи. Это рабочая тема? Если да, то я в ту сторону смотрю, или это надо даталоадеры торчовые колхозить?
tf datasets так умеют. Prefetch гугли
Обсуждают сегодня