> Подскажите, пожалуйста, как обычно (кроме метода тыка) выбирают количество

слоев енкодера и декодера в моделях распознавания речи (трансформер, конформеры и прочие rnn)?

Обычно выбирают методом тыка. Есть продвинутые алгоритмы вроде automl, байесовской оптимизации и генетических алгоритмов. Ими мало кто пользуется, потому что нужно много вычислений. В целом же надо тренировать насколько большую модель, насколько позволяют вычислительные ресурсы:

https://arxiv.org/pdf/2106.09488.pdf

> И когда необходимо добавлять слои к обученной модели, или это плохая практика?

смысла в этом большого нет

> Буду крайне признателен, если подскажете ресурс/источник по рекомендациям для обучения своих моделей (если такой есть), или как прийти к пониманию вопросов и ответов на них 🙏

Надо не рекомендации искать, а теорию изучать прежде всего

1 ответов

27 просмотров

Спасибо!

Похожие вопросы

Обсуждают сегодня

Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Вот еще странный косяк, подскажите как бороться. Я git clone сделал себе всего embassy и примеры там запускаю. Всё хорошо. Но вот решил в cargo.toml зависимости не как в приме...
Lukutin R2AJP
5
А в каком формате фреймы? Сам формат сейчас придумываешь, или что-то готовое нужно распарсить?
Okhsunrog
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Карта сайта