170 похожих чатов

Коллеги, извините за доставший всех вопрос, но хочу уточнить: есть

ли хоть какой-то резон пытаться использовать (тюнить?) трансформерные модели на ноутбучных картах (типа 3070)?

16 ответов

7 просмотров

Я даже на cpu иногда тюнить оставляю) не еффективно, но работает

Max-Ermakov Автор вопроса
Ivan Stankov
Я даже на cpu иногда тюнить оставляю) не еффективн...

Я сейчас так и делаю :) Просто задался покупкой ноута, и не могу решить, есть ли смысл вкладываться в видеокарту в нём, если нормальная полноразмерная пока не светит.

Max Ermakov
Я сейчас так и делаю :) Просто задался покупкой но...

колаб чем не устраивает, позвольте полюбопытствовать...

Max-Ermakov Автор вопроса
Andrey
колаб чем не устраивает, позвольте полюбопытствова...

Ничем ничто не неустраивает, сижу чудесно на процах тюню модельки. Интересуюсь именно целесообразностью именно ноутбучной карты. Есть ли там какие-то фундаментальные ограничения, делающие использование оной лишенным смысла?

Max Ermakov
Ничем ничто не неустраивает, сижу чудесно на проца...

Имхо нет. Можно в рази бистрее тюнить, но карту нужно брать Nvidia, ибо с остальним не так круто

Max Ermakov
Ничем ничто не неустраивает, сижу чудесно на проца...

У меня игровой ноут с видюхой от nvidia с 4гб памяти. Для тюнинга моделей размером с bert-base неплохо хватает; иногда ей пользуюсь. Но чаще - колабом, ибо там памяти GPU дают вчетверо больше.

Max-Ermakov Автор вопроса
David Dalé
У меня игровой ноут с видюхой от nvidia с 4гб памя...

спасибо, про тюнинг бертов мне как раз интересно 👍

David Dalé
У меня игровой ноут с видюхой от nvidia с 4гб памя...

Прототип сберта для ру домена для банка я сделал на 1060 6gb)

Andrey
колаб чем не устраивает, позвольте полюбопытствова...

4 часа дообучала rut5, прямо в середине процесса колаб отрубил мне GPU. Обучение прервалась, а использование ГПУ заблокировали на день, сославшись на ограничения колаба. Так что колаб не под все задачи подходит.

cene655 Шахматов
Колаб про+ норм

кстати, сколько он стоит, плюс? не брал пока в оборот

Тюнятся, бери если есть бюджет. Учитывай особенности: 1. Потребуется допохлаждение, чтобы он не тротлил. Подставка с вентиляторами - норм. 2. Обучение иногда идёт день-два. То есть всё это время он будет шуметь и крутить вентиляторы. 3. Можно брать без windows, ибо всё-равно накатывать ubuntu. Сам использую DELL G7, 17.3 дюймов с RTX на борту. Но брал вообще под другие задачи изначально )))

Max-Ermakov Автор вопроса

Похожие вопросы

Обсуждают сегодня

читать файл максимально быстро? странный вопрос))
zamtmn
53
тоесть, указав return eax, сгенерируется никому ненужная инструкция mov eax,eax ?
Aiwan \ (•◡•) / _bot
24
Кто-нибудь решал проблему с автоматическим скроллингом к выбранной ячейке в TDBGrid в Lazarus? Проблема в том, что есть допустим 3 столбца, третий столбец виден наполовину, вк...
Дмитрий Логинов
1
Приветствуем всех! Устали без проектов? Если вы программист и хотите получать стабильные заказы, компания Elif предлагает вам недельный курс по поиску проектов и их ведению. ...
Elif
1
А чего сейчас в моде вместо Error для эксепшенов? А то я тут внезапно узрел что он не рекомендуется :) У Try::Tiny какой-то совершенно ужасный синтаксис если надо конкретные э...
Denis F
19
а зачем этот вопрос для удаления из чата?
Mёdkinson Medvezhkin
63
Чорт! Чорт! Чорт! Стала ставить через GetIt (написано же, что ручками не рекомендуется) Сломалось на дублировании моей TSkLabel. Чтож мне ее по всем проектам переименовывать в...
Катерина Свиридова
7
Привет. Сразу скажу, что на C/C++/Rust я не пишу, но тем не менее возникла потребность дебага C/C++/Rust кода. Суть: есть серверное приложение, которое периодически ведёт себ...
ninekeem 🐳
4
Hey someone plz help to resolve my issue here is my table... Log { id user_id type target_ct target_obj_id action_ct action_obj_id workspace_id created_at } i wanna fil...
Rahul Singh
1
всем привет! углубившись в плюсы и начав изучать реверсинг понял, что без асм'а никуда со своими высокоабстрактными представлениями начал изучать механизмы асма, и не совсем п...
9
Карта сайта