Дамы и господа, помогите силой коллективного разума разобраться, пожалуйста, впервые

Question

Дамы и господа, помогите силой коллективного разума разобраться, пожалуйста, впервые

такое.

Дано: табличный датасет с категориальными и количественными переменными размером 800 на 39. Варианты обработки категориальных переменных: дамми-кодирование или байесовское таргетное кодирование. Целевая переменная количественная integer в диапазоне от 2 до 22.

Что делаю: отщипываю от 800 случаев 20% и откладываю. Потом на 640 случаях делаю кроссвалидацию на сэмплах, сделанных с помощью выбора случайных объектов без повторений. Всего получается 10 сэмплов, разбитых на трейн/тест в соотношении 3/1. Обучаю на этом простой случайный лес, подбираю базовые гиперпараметры.

Что происходит: на трейне в результате MAE 1.01, на валидации (ну, или как сейчас принято называть заранее отложенную выборку, которую модель никогда не видела) 2.78.

Вопрос: почему он переобучается-то?))) Что я не учёл?

#database #programming #russian #software

0

29.06.2021