Может кто объяснить, почему так себя ведет optuna? ставлю семплер

Question

Может кто объяснить, почему так себя ведет optuna? ставлю семплер

optuna.samplers.TPESampler( n_startup_trials=300) с 300-400 рандомными пробами сначала, все нормально, 300-400 рандомных и наблюдается, после чего график сглаживается и начинаются "умные" пробы, штуки 200.. а потом опять начинается, по виду, рандомно подбирать параметры..! Это как понимать вообще? Так должно быть? В чем логика?

#database #programming #russian #software

0

05.05.2023

4 ответов

18 просмотров

Mashiron Автор вопроса

По моим наблюдениям, она достаточно часто находит какой-нибудь набор параметров, который даёт отличный результат, но все вокруг даёт ужасный результат (то есть находит просто везунчика, который рандомно "зашёл"), и показывает его как "лучший", хотя если посмотреть, в какую сторону движется алгоритм, так видно, что не в сторону этого "везунчика".. :/ немного очень разочарован штукой, надеялся, что оно исправит подобные проблемы других методов поиски гиперпараметров..

0

05.05.2023

Denis Kazakov

Mashiron
По моим наблюдениям, она достаточно часто находит ...

Кстати, какой алгоритм оптимизировали?

0

05.05.2023

Mashiron Автор вопроса

Denis Kazakov
Кстати, какой алгоритм оптимизировали?

Да просто кучка параметров для XGBoost, через cross_val_score с RepeatedKFold(n_splits=7, n_repeats=3, scoring='neg_root_mean_squared_error'). С таким успехом мог бы просто gridsearch использовать и не париться..

0

05.05.2023

Denis Kazakov · Accepted Answer

Denis Kazakov

По моим пока очень скромным наблюдениям, она находит оптимальный набор гиперпараметров, а потом, если осталось время, на всякий случай гуляет в стороны - типа вдруг еще чего-нибудь найдется.

0

05.05.2023

215 похожих чатов

Может кто объяснить, почему так себя ведет optuna? ставлю семплер

4 ответов

Похожие вопросы