датасета проблем с скоростью загрузки данных нет, однако стоит удлиннить датасет до 1кк - время на загрузку данных растет. Условно когда датасет на 100к - время на выполнение getitem метода Dataset'а равно 30мс, но когда датасет на 1кк - время на выполнение того же метода 80мс.... с чем это может быть связано? Пожалуйста помогите!
Возможно, начинает использоваться файл подкачки с жёсткого диска?
Проверил, нет, скорость растет с длинной датасета
torch multiprocessing пробовали?
Пока что нет, попробую, спасибо
Так скинь код getitem’а
Обсуждают сегодня