А кто-то может подсказать, как это получше обсчитать? сейчас идея

прикинуть FLOPs от какого-нибудь сетапа а-ля 8xA100 для интересующих нас архитектур и показать сколько камней нужно, чтобы таких же FLOPs добиться на них

11 ответов

18 просмотров

что бы побить 8 а100 очень много процов уйдет

Я в интернете накопал, что Xeon gold не выше 3 TFLOPS. Это как gtx 1060

Oleg-Pavlovich Автор вопроса
datascience xc
Я в интернете накопал, что Xeon gold не выше 3 TFL...

кайф, а можно линку? начну с этого тогда

Я тут смотрел

datascience xc
Я в интернете накопал, что Xeon gold не выше 3 TFL...

A100 в TF32 развивает 312 Tflops. Значит, 4 А100 разовьют ~1200Tflops

datascience xc
A100 в TF32 развивает 312 Tflops. Значит, 4 А100 р...

Не, практика показывает, что так не стакается Будет где-то 800-900

Максим Герасимов
Не, практика показывает, что так не стакается Буде...

Да, там прирост от каждой карты до полутора раз. По крайней мере у меня было

Но в процессорном эквиваленте минимум штук 400 понадобится я думаю

datascience xc
Но в процессорном эквиваленте минимум штук 400 пон...

А вот тут хз Я в целом боюсь обучать процах, т.к. на них держится связь с сервером Отключится видеокарта - сервер будет жить Перегрев процов или утилизация 90%+ могут отправить сервак спать + может отключиться ssh

Максим Герасимов
А вот тут хз Я в целом боюсь обучать процах, т.к. ...

А самое веселое начинается тогда, когда процессы начинают утикать

Oleg-Pavlovich Автор вопроса

Похожие вопросы

Обсуждают сегодня

Коллеги, я тут для личных нужд пошел ставить MQTT сервер, пощупал mosquitto, но ужаснулся отсутствию такой банальности, как HTTP API для посмотреть список топиков. А тут что,...
Maksim Lapshin
9
Вопрос на перед, на следующую пятницу. Сколько строк кода можно вешать на одного программиста, понятно что если проект хорошо написан то можно и миллион. Но есть же где то пре...
AlekseyK Kluchnikov
31
Немного оффтопа: а кто на чем сидит для осдева в плане ide/редактора? Последнее время сидел на vscode, но я его прям не могу нормально воспринимать, перешел на сlion, но меня...
Evg Resh
29
Как думаете через какой сервис они верифицируют?
inc.
5
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
День добрый, подскажите пожалуйста, есть ли какой-то способ сказать ребару не компилировать определённое приложение? Всю доку их перечиатл ничего подобного не нашёл
Кирилл
14
На чём в основном щас пишут мини апы? Vuejs?
Goot evening Not everyone
6
Я правильно понимаю что нет способов получить список ожидающих заявок на вступление в группу с помощью бота из mtproto?
Шамиль Прилов
9
А какие существуют способы обработки ошибок выделения памяти в ядре? Т.е., допустим, есть функция, которая возвращает адрес свободной страницы в физической памяти и диапазон в...
disba1ancer
51
Вот объясните, как это работает: Вот есть допустим unix-подобная система, и программа запускает допустим printf или fork, как это передается ядру, и как оно обрабатывать начин...
Егор
14
Карта сайта