215 похожих чатов

Привет, использую торчевские Dataset и Dataloader, условно при 100к длинне

датасета проблем с скоростью загрузки данных нет, однако стоит удлиннить датасет до 1кк - время на загрузку данных растет. Условно когда датасет на 100к - время на выполнение getitem метода Dataset'а равно 30мс, но когда датасет на 1кк - время на выполнение того же метода 80мс.... с чем это может быть связано? Пожалуйста помогите!

5 ответов

5 просмотров

Возможно, начинает использоваться файл подкачки с жёсткого диска?

Кирилл-Квакшин Автор вопроса
Eva Shelley
Возможно, начинает использоваться файл подкачки с ...

Проверил, нет, скорость растет с длинной датасета

torch multiprocessing пробовали?

Кирилл-Квакшин Автор вопроса
Vadzim _B
torch multiprocessing пробовали?

Пока что нет, попробую, спасибо

Так скинь код getitem’а

Похожие вопросы

Обсуждают сегодня

Интересно, нет ли какого-то способа получить из dll не адрес самой метки, а адрес со смещением?
The Bird of Hermes
54
generic procedure function test<T>(param: T); type case T of longint: NewT = word; longword: NewT = byte; end; var v1: NewT; Как это можно сделать? Чтобы у меня...
notme
21
Делал задачу вот такую https://stepik.org/lesson/4985/step/9?unit=1083 получилось такое https://play.haskell.org/saved/ipKrepqe оно работает, тестов много не писал, но работае...
Fedor
22
Всем добрый вечер. Нужна помощь с прикруткой telegram-vapor-bot к проекту Vapor. Удалось после старта приложения отправить тестовое сообщение в бот, вот только сразу после это...
advanc3d
3
program Project1; procedure generic_proc<T>(); begin end; begin generic_proc<Int64>(0); end. Я чет не понял, а как в Delphi сделать такое? процедуру-дженерик... PS: а на...
notme
10
Кстати, что FPC мешает сделать нормальные проперти в юнитаз, завызанные на переменные? Нет, инлайнинг геттеров и геттеров кажется работает в принципе, но это же сколько лишн...
Arioch The
8
Хотел уточнить: копирование из одного рекорда в другой однотипный рекорд можно только по полям отдельно или можно чохом, типа Assign?
Ed Doc
9
Sometimes I like to solve problems the hard way. What do I mean? You know many problems can be fixed by restarting the system, but how much do you learn about the system? P...
Matthias Hoffmann
2
Похоже опять туплю задача https://stepik.org/lesson/5431/step/8?unit=1132 код и его работа https://play.haskell.org/saved/lmYTShXM на мой взгляд все правильно, и даже избыто...
Fedor
8
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
Карта сайта