при обучении нейросети обратным распространением ошибки использовать так же эволюционный алгоритм, с рассчетом на то, что наряду со скрещиванием найдется не только локальный минимум, но еще и "самый" хороший локальный минимум в окрестности, которая была занята сгенерированным поколением?
Ын вроде говорил, что множество локальных минимумов - не проблема для достаточно большой сетки, потому что это обычно не минимумы, а седловые точки. а проблема в плато, из-за чего методы оптимизации заточены на динамическое изменение скорости обучения
Обсуждают сегодня