Похожие чаты

Ребят, обнаружил странную проблему, на сервере стоит модель Pytorch на

инференс и чего-то падает, может и вам для ваших проектов полезно будет выяснить:

поставил на Амазон с GPU модель(разговорная, занимает 12гб), все работает, 2 дня работало, и быстро - шлю запросы и на апи фласк и через телеграм общение.
И вот сегодня бот перестал работать, статусы сервера на Амазоне все нормальные. В логах новых ошибок нет, все процессы в supervisor в статусе RUNNING, память выделенная на видеокарте и на рам такая же, не выросла. Не могу понять в чем фишка, особенно смущает, что нет видимых признаков, и нагрузки вроде не было большой - ну в цикле на модель направлял 20 запросов и все было норм. Если перезапускаю процессы, то все снова работает.

Не знаете в чем может быть причина?

7 ответов

14 просмотров

дебагером проверь где висит?

Vic
мм, а как

https://wiki.python.org/moin/DebuggingWithGdb

Vic- Автор вопроса
Evgenii Zheltonozhskii🇮🇱
https://wiki.python.org/moin/DebuggingWithGdb

Ого, я глянул, жёстко так дебаг делать

Vic- Автор вопроса
Evgenii Zheltonozhskii🇮🇱
Ок зумер

Я не зумер)) даже не сразу понял о чем речь

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
@Benzenoid can you tell me the easiest, and safest way to bu.y HEX now?
Živa Žena
20
This is a question from my wife who make a fortune with memes 😂😂 About the Migration and Tokens: 1. How will the old tokens be migrated to the new $LGCYX network? What is th...
🍿 °anton°
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
What is the Dex situation? Agora team started with the Pnetwork for their dex which helped them both with integration. It’s completed but as you can see from the Pnetwork ann...
Ben
1
Гайс, вопрос для разносторонее развитых: читаю стрим с юарта, нада выделять с него фреймы с определенной структурой, если ли чо готовое, или долбаться с ринг буффером? нада у...
Vitaly
9
Anyone knows where there are some instructions or discort about failed bridge transactions ?
Jochem
21
@lozuk how do I get my phex copies of my ehex from a atomic wallet, to move to my rabby?
Justfrontin 👀
11
Карта сайта