вариаций/критериев при помощи GridSearchCV?
сейчас у меня такие данные:
{
'n_estimators': [100,125,150,175,200,225,250,500, 1000,2000],
'criterion': ['mse'],
'max_depth': [2,4,6,8,10,20,30,40],
'max_features': [0.1, 0.2, 0.3, 0.4, 0.5],
'min_samples_split': [2,3,4,5,6,7]
}
Лучше замени метод перебора на какую-нибудь optuna или хотя бы байесопт.
Есть смысл использовать random search или байесовский поиск даже лучше.
получается n_est = 120 и max_depth = 209? стоит ли перепроверять вручную?/через баесовский поиск?) Параметры проверял: params = { 'n_estimators':int(trial.suggest_loguniform('n_estimators', 10, 2000)), 'max_depth': trial.suggest_int('max_depth', 5, 300) }
у оптуны optuna.create_study есть параметр direction = maximize/minimization что значит эта минимизация/максимизация?
Навскидку: минимизация или максимизация оптимизируемой функции.
а что лучше для RandomForestRegressor и XGBRegressor
Это не от них зависит, а от того, какая функция ошибки.
Обсуждают сегодня