Я тут сделал задачу регрессии на одну фичу. Особенность в
том, что тестовая выборка находится за пределами тренировочной, то есть алгоритм должен экстраполировать, а не интерполировать. И неудивительно, что линейный алгоритм справляется лучше всего. Верно ли я понимаю, что линейные модели рулят везде, где надо экстраполировать?
Вы путаете причину со следствием, кмк. У вас линейная зависимость, естественно, что линейная регрессионная модель для этих данных подходит лучше всего, в том числе для решения задачи экстраполяции.