лейблы (разбить по классам), построить по ним классификатор, а потом предсказания классификатора (вероятность принадлежности семпла к тому или иному классу) использовать в том числе в регрессии?
А может лучше кластеризовать?🙃
это на закуску :)
попробуйте, чего гадать. Посмотрите на регрессию с добавленным "лейбелом", как вы назвали, хотя я бы обозначил это как дополнительную фичу на основе того, что вы описали про зависимую переменную, которая насколько я понимаю, выводится в результате некоторого фичер инжиниринга, назовем это так. Не зная подробности того, что вы делаете, это единственное что можно сказать.
Если я сгенерированную фичу добавляю со 100% тру классами (как если бы классификатор был точен на 100%), то результаты регрессии улучшаются очень существенно. Что и понятно, т.к. по сути это протечка. Классификатор на тесте даёт 86% точности. Но если я добавляю предикшены классификатора в модель регрессии, то это ухудшает модель, а не улучшает ее. С 86% точности я ожидал, что как минимум это не улучшит модель, но точно не сделает ее хуже. Пытаюсь понять, сделал ли я где-то ошибку и поэтому такой результат или моделька классификации добавляет в модель регрессии свою ошибку и такой способ в принципе не рабочий.
У вас этой фичи по какой причине нет в тесте совсем, и почему она в трейне есть, у вас разные трейн и тест? Отложим в сторонке пока классификатор для её предикции в тесте.
Таргет — общая сумму заказа клиента. Фича — усредненная цена за единицу товара в заказе, которая считается по таргету и другой фиче, которая есть в датасете. Идея в том, чтобы разбить датасет по средней цене за заказ на группы, а затем предварительно эти группы предсказывать классификатором, чтобы помочь регрессору.
Относительно этого, конечно Фича ваша построенна на основе таргета, который в тесте скрывается. Но поэтому, раз нет валидации (что стоило бы проверить на валидации), то кросс-валидация идеально подойдет для проверки.
Обсуждают сегодня