Похожие чаты

Есть ли способ ускорить работу torch после обучения, аналогично tfLite

у tensorflow?

3 ответов

18 просмотров

для начала инференс с torch.no_grad() уже быстрее чем при обучении потом, AMP или ручная конвертация model.float16() может ускорить вычисления раза в два И три, есть несколько способов ускорить ResNet меняя его структуру, что зачасную еще и увеличивает точность.

Sергей- Автор вопроса
Лис Электронщик
для начала инференс с torch.no_grad() уже быстрее ...

Выше уже с использованием torch.no_grad() цифры мои

Sергей
Выше уже с использованием torch.no_grad() цифры мо...

в fp16 на вашей карте впрочем использовать не стоит

Похожие вопросы

Обсуждают сегодня

а через ESC-код ?
Alexey Kulakov
29
30500 за редактор? )
Владимир
47
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
any reference of this implementation?
BitBuddha
29
Ⓐrtto, [4/23/24 7:02 PM] Please explain more fully how it is not working exactly, and what are the steps you are taking, and what error messages come or what happens. Ⓐrtto, ...
Ezza Kezza
2
sounds like people have lost their kaspa on tradeogre... does this mean tradeogre not trustworthy?
Ezza Kezza
15
Страшнейшая правда про списки ЦБ. С первых дней жизни P2P сферы, молодые человеки, начитавшись законодательной базы и "внутренних" документов, решили, что им противостоит сер...
Foxcool
3
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
So much speculation in the last week. So much volatility in price. This is because Hedera has a GC that isn't using the network it's governing. Why aren't people asking why a...
Summit Seeker R
9
Карта сайта