215 похожих чатов

Всем добрый вечер. Вопрос такой - лосс начиная с определенной

эпохи начинает выдавать nan, как можно фиксить при условии что градиент клиппер уже прикручен?
Пробовал стартовый лернинг рейт меньше делать - лосс хуже к минимуму сходиться.
Увеличение размера батча тоже не помогло.

10 ответов

26 просмотров

Если просто есть батч, на котором все становится плохо - скипать конкретный батч)

Проверить достаточно ли могуч клепатель, проверить тензора на инфы и наны

💀-👁 Автор вопроса
💀 👁
Как проверить могучесть клиппера?

Клепать посильнее и посмотреть на результат, например. Может там градиенты множатся на 0.99 в качестве "клиппинга"

💀-👁 Автор вопроса
Timofey Naumenko
Если просто есть батч, на котором все становится п...

Поставил каунтер на колличество батчей и с определенного момента чисто начинает расти. Так что это все-таки градиентный взрыв

💀-👁 Автор вопроса
Ingvar
Клепать посильнее и посмотреть на результат, напри...

Я пробовал clip_value как гиперепараметр оптимизировать оптуной, но пока он либо отсекает почти все и моделька не обучается либо просто не работает

Начать с проверки в какой операции вылазят наны, и логгинга весов/градиентов

💀-👁 Автор вопроса
Evgenii Zheltonozhskii🇮🇱
Начать с проверки в какой операции вылазят наны, и...

Как это сделать по-умному? Потому что мне на ум пришло только logging.info(*args) в каждый слой запихать

💀 👁
Как это сделать по-умному? Потому что мне на ум пр...

Хз, я прямо в тензорборде нормы рисую, а для проверки какая операция нан дала у торча есть встроенный инструмент есть

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта