А на чем вы все в чате трените сетки? Какое

железо, какая мощность?
Если я правильно понимаю, большая часть присутствующих, те для кого нейронки это работа и железо, наверное, предоставляют на работе. На коллабах квоты, а арендовать выйдет в перспективе дороже чем собрать самому, поэтому я захотел собрать что-то небольшое свое и пока остановил выбор на rtx 3060 12гб. хочется понять с чем сегодня работают и какие нужны мощности. Сейчас у меня максимально простой ноут 15 летней давности, который фш еле тянет.

13 ответов

33 просмотра

Норм выбор. Можешь у меня на канале прочитать про проблемы сборки домашнего компа. @voicestuff Сразу скажу - бери серверные материнки и процы чтобы было много PCI линий. В них легко воткнуть и 4 видеокарты. Вроде Threadripper. БП бери с запасом в 20% от потребления конфигурации если гонять будешь 24/7. HDD покупать в 2023 даже как файлопомойку моветон. Есть доступные SATA SSD на 4Тб от kingspec и кучи других производителей. По видюхам. 12Гб это довольно мало. Есть некоторые архитектуры, которые не обучить. Тот же whisper-medium требует 16гб для батча=1. Если бюджет ограничен, то ок, но вообще sweet spot это что-то на 24гб.

Q- Автор вопроса
Ilya Shigabeev
Норм выбор. Можешь у меня на канале прочитать про ...

Спасибо, это значимый кусочек того что я хотел услышать

Очень просто - надо подождать пока пена сойдёт и появятся простые программы для обучения сети . Поставишь на обычный ноутбук - и он как при обработке текста совсем немного напригатся придётся . Сейчас просто доступ в этой системе пока не открыть - попозже - почти любой пользователь сможет почти всю британскую энциклопедию на мобильном обработает - пока как с компьютерами ( первый ламповый занимал двухэтажный дом и толпа народу обслуживала большой калькулятор. 😁

Ilya Shigabeev
Норм выбор. Можешь у меня на канале прочитать про ...

только китайские ssd типа kingspec имеют свойство помирать в любой случайный момент. у меня как-то странно откинулся, в материнской плате уже не работал, но через внешний бокс еще читался. лучше чуть доплатить за, например, Kingston nv2

Q- Автор вопроса
Q
Спасибо за совет. А Samsung?

Самсунг это высший эшелон в потреб сегменте )))

Филипп
только китайские ssd типа kingspec имеют свойство ...

Надо просто производителей хороших знать) samsung top tier конечно, но есть и другие

Q
Спасибо за совет. А Samsung?

samsung pm9a1 хороший выбор, 4тб правда не бывает

Q- Автор вопроса
Q
От таких цифр вроде уже nas нужен

ну чтобы быстро учиться с nas это 10 или 40гбит обязательно и получится уже совсем другого класса система, раз так в 20+ дороже

Для себя тренирую, арендую в яндекс 4xA100 80Gb

Kyle Nekto
Для себя тренирую, арендую в яндекс 4xA100 80Gb

И сколько платите? Я чот в калькуляторе нащелкал, кажется эта штука 40к/сутки стоит…

Похожие вопросы

Обсуждают сегодня

Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Коллеги, я тут для личных нужд пошел ставить MQTT сервер, пощупал mosquitto, но ужаснулся отсутствию такой банальности, как HTTP API для посмотреть список топиков. А тут что,...
Maksim Lapshin
14
У меня задача: написать брокер сообщений. Очереди и потребители. Очереди поддерживают приоритеты. Очередь отдает сообщения, только обработчикам с соответствующими характеристи...
Aleksandr Filippov
2
Решил тут попробовать embassy на bluepill. Все установил, собрал blink и успешно залил с помощью St link 2 китайского. Но после этого чип шиться перестал. На форумах прочел, ч...
Lukutin R2AJP
6
Немного оффтопа: а кто на чем сидит для осдева в плане ide/редактора? Последнее время сидел на vscode, но я его прям не могу нормально воспринимать, перешел на сlion, но меня...
Evg Resh
29
Вопрос на перед, на следующую пятницу. Сколько строк кода можно вешать на одного программиста, понятно что если проект хорошо написан то можно и миллион. Но есть же где то пре...
AlekseyK Kluchnikov
31
Карта сайта