215 похожих чатов

Я сейчас изучал линейную модель и решил поексперементировать на стартовом

проекте, в котором вслепую юзал рандомный лес. Но вот проблема, в sklearn не могу найти возможность обучение через batch gradient descent и mini-batch, только Stochastic. Если есть знающий, можете объяснить есть ли такое и где его найти или прийдётся ручками?

4 ответов

7 просмотров

Градиентный спуск это далеко не единственный способ минимизировать функцию потерь. Пропуская часть где я спрашиваю «зачем», отвечу 1) ты можешь легко заимплементить линейную модель при помощи torch/tf. Тебе не обязательно использовать sklearn 2) ты можешь сэмитировать динамическое обучение используя sgd в sklearn(partial_fit) что по сути тоже самое что цикл с max_iter=1 Не один из этих случаев не является полноценным способом «быть линейной моделью(я подозреваю что речь про лин-рег,лог-рег) обученной через батчи». Почему ? Когда ты получше изучишь линейные модели ты поймёшь почему так

Amber-Claes Автор вопроса
Vadim Shatov
Градиентный спуск это далеко не единственный спосо...

Я понимаю почему так и зачем нужен sgd, но, если я не ошибаюсь sgd с max_iter=1 будет немного не то. Да, он берёт все строчки из датасета, но не последовательно же, а рандомно. В любом случае я склепал цикл с чистым batch gradient и понял что датасет в 16к строчек он будет на моём ноуте подгонять по 1.5 секунде за каждую строчку и это правда бессмысленно. Только всё равно интересно почему не добавили mini-batch версию GD

Amber Claes
Я понимаю почему так и зачем нужен sgd, но, если я...

Да, по поводу того что max_iter 1 это не то, ты прав

Похожие вопросы

Обсуждают сегодня

А случайно нет ли в паскале штатной возможности передать указатель и количество туда где array of в качестве аргумента?
zamtmn
25
Anyone here suffers from unexplained aural migraines, who would be up for talking for a bit? Doesn't *have* to be aural, but I am not asking about headaches, I mean actual mi...
Martin Rys
58
Я тут за тем, чтобы задать вопрос, так как не знаю ассемблер, учу с/с++. Короче, насколько дорога операция перехода в функцию при ее вызове? Дело в том, что в с++ есть макросы...
Максим Рябцев
12
А какие чаты вообще в ходу? Auto aim? И что еше
do you think you're better off alone? А
13
Привет, нужен совет старших товарищей. Есть глобальная переменная var DefaultDataFolder:string; инициализируем DefaultDataFolder:='a:\_OUT\'; есть примитивная процедур...
Max Otto
14
hello friends. Do you know how can I learn getx? I have a software project that I should deliver it up to 5 weeks later and I need to learn firebase too. I will be thankfull
AmirHossein Razavi
15
Доброе время суток! у меня тут иноды закончились. и понял почему по сути кстит, я периодически очищаю постгрес и сентри контайнер: postgres=# DELETE FROM nodestore_node WHER...
Юсиф Насиров
9
Сonst magicTgHTML = (text, entities) => { let processedText = text; let offsetShift = 0; entities.forEach(entity => { const { offset, length, type, url, ...
Андрей
1
Вопрос. Теоретический. Есть список команд. Команды отправляю в обработку некой функции, по очереди. Разные команды могут давать разные результаты после обработки. В зависимос...
Serjone
7
я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
100
Карта сайта