А на чем вы все в чате трените сетки? Какое

железо, какая мощность?
Если я правильно понимаю, большая часть присутствующих, те для кого нейронки это работа и железо, наверное, предоставляют на работе. На коллабах квоты, а арендовать выйдет в перспективе дороже чем собрать самому, поэтому я захотел собрать что-то небольшое свое и пока остановил выбор на rtx 3060 12гб. хочется понять с чем сегодня работают и какие нужны мощности. Сейчас у меня максимально простой ноут 15 летней давности, который фш еле тянет.

13 ответов

38 просмотров

Норм выбор. Можешь у меня на канале прочитать про проблемы сборки домашнего компа. @voicestuff Сразу скажу - бери серверные материнки и процы чтобы было много PCI линий. В них легко воткнуть и 4 видеокарты. Вроде Threadripper. БП бери с запасом в 20% от потребления конфигурации если гонять будешь 24/7. HDD покупать в 2023 даже как файлопомойку моветон. Есть доступные SATA SSD на 4Тб от kingspec и кучи других производителей. По видюхам. 12Гб это довольно мало. Есть некоторые архитектуры, которые не обучить. Тот же whisper-medium требует 16гб для батча=1. Если бюджет ограничен, то ок, но вообще sweet spot это что-то на 24гб.

Q- Автор вопроса
Ilya Shigabeev
Норм выбор. Можешь у меня на канале прочитать про ...

Спасибо, это значимый кусочек того что я хотел услышать

Очень просто - надо подождать пока пена сойдёт и появятся простые программы для обучения сети . Поставишь на обычный ноутбук - и он как при обработке текста совсем немного напригатся придётся . Сейчас просто доступ в этой системе пока не открыть - попозже - почти любой пользователь сможет почти всю британскую энциклопедию на мобильном обработает - пока как с компьютерами ( первый ламповый занимал двухэтажный дом и толпа народу обслуживала большой калькулятор. 😁

Ilya Shigabeev
Норм выбор. Можешь у меня на канале прочитать про ...

только китайские ssd типа kingspec имеют свойство помирать в любой случайный момент. у меня как-то странно откинулся, в материнской плате уже не работал, но через внешний бокс еще читался. лучше чуть доплатить за, например, Kingston nv2

Q- Автор вопроса
Q
Спасибо за совет. А Samsung?

Самсунг это высший эшелон в потреб сегменте )))

Филипп
только китайские ssd типа kingspec имеют свойство ...

Надо просто производителей хороших знать) samsung top tier конечно, но есть и другие

Q
Спасибо за совет. А Samsung?

samsung pm9a1 хороший выбор, 4тб правда не бывает

Q- Автор вопроса
Q
От таких цифр вроде уже nas нужен

ну чтобы быстро учиться с nas это 10 или 40гбит обязательно и получится уже совсем другого класса система, раз так в 20+ дороже

Для себя тренирую, арендую в яндекс 4xA100 80Gb

Kyle Nekto
Для себя тренирую, арендую в яндекс 4xA100 80Gb

И сколько платите? Я чот в калькуляторе нащелкал, кажется эта штука 40к/сутки стоит…

Похожие вопросы

Обсуждают сегодня

Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Вот еще странный косяк, подскажите как бороться. Я git clone сделал себе всего embassy и примеры там запускаю. Всё хорошо. Но вот решил в cargo.toml зависимости не как в приме...
Lukutin R2AJP
5
А в каком формате фреймы? Сам формат сейчас придумываешь, или что-то готовое нужно распарсить?
Okhsunrog
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Карта сайта