170 похожих чатов

Есть тут кто инференсит продакшн модель на vast ai?)

12 ответов

19 просмотров

наверное не лучший выбор, сама концепция сервиса не может обеспечить постоянную работу сервера

Dmitry
а какой выбор лучший?)

в целом очень много решений для прода https://geekflare.com/best-cloud-gpu-platforms/

Mukhammadsaid- Автор вопроса

Кроме aws ничего не то? Просто на васте очень привлекательные цены

а immers.cloud плох в проде?

а что за продакшн? стартап или уже платные клиенты?

Mukhammadsaid
стартап пока

Если что на постоянку могу сдать свой малый сервер - AMD Ryzen 5 5600X / 32 ГБ DDR4 / c RTX 3070 8GB / 1 TB M.2 PCIe. ИБП. Если другая видеокарта нужна - можно обсудить.

miteigi nemoto
а immers.cloud плох в проде?

Мы его частично используем, для предварительной обкатки нового сервиса перед тем, как брать уже выделенное железо под него и встраивать в локальную сеть. В целом, вопросов по машинам с GPU нету (но мы там только учим модели, инференс на CPU), а вот с CPU не всё гладко. Из 5 машин на 44 CPU каждая, 2 показывали меньшую производительность (на 20-40%), будто не все ядра используются (хотя метрики показывают, что все 44 доступны и используются) В техподдержке писали что-то про то, что мол эти ядра набиваются из разных железок, и если соседние ядра уже активно используются, то общая производительность немного снижается. Я мог некорректно это понять и сформулировать, по этому если это бред — то извините)) Но суть в том, что жирные машины с CPU надо отдельно тестировать перед тем, как фигачить прод, и машины с меньшей производительностью просто пересоздать

Поддерживаю. Очень часто проблемы с производительностью, кривые образы и т.д

datascience xc
Поддерживаю. Очень часто проблемы с производительн...

Следствие доступной цены. За стабильностью надо идти в любой ЦОД, который даёт выделенное железо. Но это уже дороже (хотя всё ещё дешевле, чем держать своё железо, инфраструктуру и обслуживать за свой счёт). А ещё лучше собирать ваше железо в выделенную стойку в ЦОД (закупает его по указанному конфигу и ставит персонально для вас). Вот тут проблем вообще никаких, а даже наоборот — у нас как-то часть дисков в raid массиве вылетело, заменили минут за 30 всё) И с сетью тоже пару раз траблы возникали, тоже очень быстро всё исправляли

Похожие вопросы

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
в JclConsole объявлено так: function CtrlHandler(CtrlType: DWORD): BOOL; stdcall; - где ваше объявление с stdcall? у вас на картинке нет stdcall
Karagy
8
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
Карта сайта