слоя упала вдвое по сравнению с вариантом, где весь слой работает.
Если так и будешь обучать, то на тесте твоя модель охренеет от того, что суммарная активация слоя вдвое больше, чем она привыкла.
Как это хэндлить? При тренировке вдвое увеличиваешь активации не выключенных нейронов
Спасибо. А как узнать что модель охренела? Проверить Accuracy? Увиличить активации значит процент p = 50% скатить до 25%?
Обсуждают сегодня