215 похожих чатов

Товарищи, а имеет ли смысл инициализировать веса сети (или любого

другого алгоритма) путём случайного перебора? Ну, то есть мы абсолютно случайно составляем 1000 комбинаций весов, смотрим, на каком наборе весов метрика ближе всего к минимуму и ставим начальные весе равные этому набору. На первый взгляд, это даёт лучшее начальное приближение и градиентный спуск будет быстрее сходиться и, может даже, в лучшую точку, чем если бы мы каким-то шумом инициализировали. Что думаете об этом?

3 ответов

10 просмотров

стартовать со всех 1000 комбинаций будет лучше

А что в книге не почитаешь? Вот в этой, например - http://gen.lib.rus.ec/book/index.php?md5=900D739E4B0305A0422F4DC23E0CC76C Там в начале хорошо про НС написано.

В случае с глубокими сетями выглядит бесполезной затеей

Похожие вопросы

Обсуждают сегодня

а через ESC-код ?
Alexey Kulakov
29
30500 за редактор? )
Владимир
47
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
Ребят в СИ можно реализовать ООП?
Николай
33
у вас два процесса. один посылает другому сигнал. у вас есть код обоих процессов? если всё не так - расскажите как оно на самом деле. а именно кто кому чего, есть-ли консоли,...
Karagy
6
вы делали что-то подобное и как? может есть либы готовые? увидел картинку нокода, где всё линиями соединено и стало интересно попробовать то же в ddl на lua сделать. решил с ч...
Victor
8
Карта сайта