А кто-то может подсказать, как это получше обсчитать? сейчас идея

прикинуть FLOPs от какого-нибудь сетапа а-ля 8xA100 для интересующих нас архитектур и показать сколько камней нужно, чтобы таких же FLOPs добиться на них

11 ответов

19 просмотров

что бы побить 8 а100 очень много процов уйдет

Я в интернете накопал, что Xeon gold не выше 3 TFLOPS. Это как gtx 1060

Oleg-Pavlovich Автор вопроса
datascience xc
Я в интернете накопал, что Xeon gold не выше 3 TFL...

кайф, а можно линку? начну с этого тогда

Я тут смотрел

datascience xc
Я в интернете накопал, что Xeon gold не выше 3 TFL...

A100 в TF32 развивает 312 Tflops. Значит, 4 А100 разовьют ~1200Tflops

datascience xc
A100 в TF32 развивает 312 Tflops. Значит, 4 А100 р...

Не, практика показывает, что так не стакается Будет где-то 800-900

Максим Герасимов
Не, практика показывает, что так не стакается Буде...

Да, там прирост от каждой карты до полутора раз. По крайней мере у меня было

Но в процессорном эквиваленте минимум штук 400 понадобится я думаю

datascience xc
Но в процессорном эквиваленте минимум штук 400 пон...

А вот тут хз Я в целом боюсь обучать процах, т.к. на них держится связь с сервером Отключится видеокарта - сервер будет жить Перегрев процов или утилизация 90%+ могут отправить сервак спать + может отключиться ssh

Максим Герасимов
А вот тут хз Я в целом боюсь обучать процах, т.к. ...

А самое веселое начинается тогда, когда процессы начинают утикать

Oleg-Pavlovich Автор вопроса

Похожие вопросы

Обсуждают сегодня

Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
длина пакета фиксированная, или меняется?
Okhsunrog
7
Вот еще странный косяк, подскажите как бороться. Я git clone сделал себе всего embassy и примеры там запускаю. Всё хорошо. Но вот решил в cargo.toml зависимости не как в приме...
Lukutin R2AJP
5
А в каком формате фреймы? Сам формат сейчас придумываешь, или что-то готовое нужно распарсить?
Okhsunrog
5
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет, нужна как никогда, нужна помощь с IO в загрузчике. Пишу в code16 после установки сегментных регистров, пишу вывод символа. Пробовал 2 варианта: # 1 mov $0x0E, %a...
Shadow Akira
14
Раз начали говорить про embassy, то присоединюсь со своими парой вопросов. 1) Есть ли сопоставимые аналоги для асинхронного кода в emdebbed? 2) Можно ли внутри задач embassy ...
NI_isx
6
сделал сайт, прикрутил в боте сайт, и виджет логина. как автоматически логинить пользователя в аккаунт(телеграм), при входе с бота?
Александра Чернивецкая
5
Карта сайта