как с её помощью объяснить тот факт, что Random Forest при добавлении новых деревьев не переобучается (хотя сложность модели увеличивается), а Boosting - переобучается? (Первый случай закрыли каким-то костылём, но он выглядит именно как костыль под частный случай, и непонятно, что тогда делать со случаем бустинга)
Что бы RF переобучится от большого числа деревьев нужно перебрать все комбинации фичей, но конечно этого часто нереально достичь
Rf же берёт среднее значение, грубо говоря. Это не означает сложность модели. А ещё только добавляя новые деревья можно оверфиттит иногда. Когда у тя ОЧЕНЬ МНОГО ДЕСИШН ТРИС!
Обсуждают сегодня