Уточнение - как будто препроцессинг текстовых фичей в процессе запуска

model.fit(pool) идет в один поток на CPU. У меня сейчас это занимает время сравнимое с общим обучением на GPU.

Это by design или у меня что-то не так настроено?

5 ответов

6 просмотров

а что top (task manager) говорит?

dmitry- Автор вопроса
Евгений Петров
а что top (task manager) говорит?

top - 07:58:30 up 14 days, 27 min, 0 users, load average: 1.17, 1.10, 1.09 Tasks: 10 total, 2 running, 8 sleeping, 0 stopped, 0 zombie %Cpu(s): 2.1 us, 0.1 sy, 0.0 ni, 97.8 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st MiB Mem : 64142.3 total, 16988.8 free, 35227.1 used, 11926.4 buff/cache MiB Swap: 32768.0 total, 32764.5 free, 3.5 used. 29997.9 avail Mem PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 378 root 20 0 68.1g 32.9g 277288 R 100.0 52.6 128:33.01 python 1 root 20 0 3984 2988 2760 S 0.0 0.0 0:00.01 bash 19 root 20 0 3984 3116 2820 S 0.0 0.0 0:00.00 bash 341 root 20 0 12192 2368 2108 S 0.0 0.0 0:00.00 sshd 347 root 20 0 9084 6232 5520 S 0.0 0.0 0:00.09 ssh 356 root 20 0 549440 106500 18644 S 0.0 0.2 0:15.26 jupyter-noteboo 1206 root 20 0 4476 3796 3204 S 0.0 0.0 0:00.14 bash 1219 root 20 0 4476 3860 3268 S 0.0 0.0 0:00.14 bash 1231 root 20 0 6360 3452 2916 R 0.0 0.0 0:01.57 top 1239 root 20 0 3724 3164 2328 S 0.0 0.0 0:03.38 watch Работа в один поток

dmitry
top - 07:58:30 up 14 days, 27 min, 0 users, load...

да, там код так написан :-\

dmitry- Автор вопроса
Евгений Петров
да, там код так написан :-\

Спасибо! А я правильно понимаю, что если я сделаю токенизацию (и, возможно, другую предобработку из стандартных компонент catboost) отдельным предварительным шагом (чтобы организовать кэширование), то ее нельзя будет добавить в модель cbm и мне придется в inference коде ее воспроизводить?

Похожие вопросы

Обсуждают сегодня

Может кто подсказать какие требования к изображениям для обучения Yolo v8? Как то разрешение, размер выделяемого обьекта в пикселях, оптимальное кол-во изображений. А то я пыт...
Владислав😎
16
Доброго времени! Вопрос хочу на дрон стерео зрение поставить, если 2 камеры будут расположены на растоянии 60 см это много? И как прикинуть максимальную дальность?
Никита Гуров
5
Может кто-нибудь сталкивался. Есть оригинальное изображение и его уменьшенные версии. Условно 1280х1280 и 640х640. Через какие инструменты и как было совершено уменьшение - не...
Georgy Makarov
1
Как распидорасить виртуальное окружение conda с помощью вумного PyCharm? Открываешь папку как проект. Указываешь интерпретатор из этого окружения, нажимаешь Ок.
Maxim 👀 Osminin #Slowpoke3D
2
Done all. My dear friends 😊, Would you please upvote my new works and upvote if you liked it? Also any feedback would be very appreciated. https://www.kaggle.com/code/matin...
Matin Mahmoodi
2
Я как-то кроме OpenCV для задач классического CV ничего раньше не рассматривал (кроме Kornia). А кто-то имел опыт работы с BoofCV, FastCV, SimpleCV, GluonCV и подобными? Они н...
Georgy Makarov
2
А интересно, существует ли какая-то разница в уменьшении по одной интерполяции от (условно) 1280 -> 640 -> 320 (поочередно открывая) и 1280 -> 320?
Georgy Makarov
1
Только сейчас дошли руки до Orange pi 5. Это нормально что на нем YOLOv5s выдает 1 кадр раз в 2-3 секунды на CPU? Это без оптимизаций и прочих настроек, просто голый запуск че...
Denis
17
Доброе утро. Подскажите, если если 4 корутины, внутри которых VideoCapture, то будут ли они работать асинхронно? Т.к. нагуглил, что Videocapture в моменте может быть открыт то...
Alexander👨‍💻
19
Кто что использует для создания приложения/бэка обработки видеопотока в реальном времени? FFmpeg или GStreamer? По моему небольшому опыту, первый лучше и гибче. Но почему-то...
Georgy Makarov
5
Карта сайта