ли хоть какой-то резон пытаться использовать (тюнить?) трансформерные модели на ноутбучных картах (типа 3070)?
Я даже на cpu иногда тюнить оставляю) не еффективно, но работает
Я сейчас так и делаю :) Просто задался покупкой ноута, и не могу решить, есть ли смысл вкладываться в видеокарту в нём, если нормальная полноразмерная пока не светит.
колаб чем не устраивает, позвольте полюбопытствовать...
Ничем ничто не неустраивает, сижу чудесно на процах тюню модельки. Интересуюсь именно целесообразностью именно ноутбучной карты. Есть ли там какие-то фундаментальные ограничения, делающие использование оной лишенным смысла?
Имхо нет. Можно в рази бистрее тюнить, но карту нужно брать Nvidia, ибо с остальним не так круто
💪🏻благодарю за ответ
У меня игровой ноут с видюхой от nvidia с 4гб памяти. Для тюнинга моделей размером с bert-base неплохо хватает; иногда ей пользуюсь. Но чаще - колабом, ибо там памяти GPU дают вчетверо больше.
спасибо, про тюнинг бертов мне как раз интересно 👍
Прототип сберта для ру домена для банка я сделал на 1060 6gb)
4 часа дообучала rut5, прямо в середине процесса колаб отрубил мне GPU. Обучение прервалась, а использование ГПУ заблокировали на день, сославшись на ограничения колаба. Так что колаб не под все задачи подходит.
colab pro? интересная история
кстати, сколько он стоит, плюс? не брал пока в оборот
Тюнятся, бери если есть бюджет. Учитывай особенности: 1. Потребуется допохлаждение, чтобы он не тротлил. Подставка с вентиляторами - норм. 2. Обучение иногда идёт день-два. То есть всё это время он будет шуметь и крутить вентиляторы. 3. Можно брать без windows, ибо всё-равно накатывать ubuntu. Сам использую DELL G7, 17.3 дюймов с RTX на борту. Но брал вообще под другие задачи изначально )))
Важное замечание, спасибо, учту.
Обсуждают сегодня