Какую функцию pytoch берёт чтобы вывести 10.00GiB? Или вообще откуда

Question

Python

[:]

Какую функцию pytoch берёт чтобы вывести 10.00GiB? Или вообще откуда

это он берёт?

"RuntimeError: CUDA out of memory. Tried to allocate 10.00 GiB {...}"

#backend #programming #python #russian

0

11.10.2023

8 ответов

22 просмотра

[:] Автор вопроса

Maxim Kolesnikov
Это же про память видеокарты, наверное.

Я знаю. Рассчитывает ли pt этот объем до фактической загрузки? И если да, то возможно ли его "вытащить"?

0

11.10.2023

Maxim Kolesnikov

Слово allocate означает, что он сперва пытается зарезервировать 10 гигов памяти. До каких-либо дальнейших вычислений. Не уверен, что до конца понимаю твой вопрос. Что такое «вытащить»?

0

11.10.2023

[:] Автор вопроса

Maxim Kolesnikov
Слово allocate означает, что он сперва пытается за...

Значит я правильно мыслю. Если кратко, то получить этот объём в байтах до загрузки, т.е. до tensor.to(device)

0

11.10.2023

Maxim Kolesnikov

[:]
Значит я правильно мыслю. Если кратко, то получить...

Судя по такой круглой цифре, этот объём не вычисляется, а просто в каком-нибудь конфиге задаётся.

0

11.10.2023

[:] Автор вопроса

Maxim Kolesnikov
Слово allocate означает, что он сперва пытается за...

*я не совсем про "до вычислений". Я про аллокацию

0

11.10.2023

[:] Автор вопроса

Maxim Kolesnikov
Судя по такой круглой цифре, этот объём не вычисля...

Он как раз вычисляется в зависимости от размера массива, который мы грузим

0

11.10.2023

[:] Автор вопроса

[:]
Я знаю. Рассчитывает ли pt этот объем до фактическ...

Я выяснил, как это работает, кому интересно, есть гайд по кастомному аллокатору pytorch https://zdevito.github.io/2022/08/04/cuda-caching-allocator.html

0

11.10.2023

Maxim Kolesnikov · Accepted Answer

Maxim Kolesnikov

Это же про память видеокарты, наверное.

0

11.10.2023

170 похожих чатов

Какую функцию pytoch берёт чтобы вывести 10.00GiB? Или вообще откуда

8 ответов

Похожие вопросы