170 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Ассемблер Ассемблер
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
DevsHelper DevsHelper
SwiftBook SwiftBook
Solidity Development Solidity Development
pro.net (former COM+) pro.net (former COM+)
Delphi & Lazarus Delphi & Lazarus
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Evolution CMS развитие и ... Evolution CMS развитие и ...
Dart / Flutter Dart / Flutter
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
IDE и редакторы — русског... IDE и редакторы — русског...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
Lame C Lame C
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
dlang.ru dlang.ru
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
Server Side Swift Develop... Server Side Swift Develop...
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Modern::Perl Modern::Perl
Odoo talks & fun Odoo talks & fun
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
ru.nim.talks ru.nim.talks
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
Haskell Start Haskell Start
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
ErlangRus ErlangRus
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
Electron.js Electron.js
Это RabbitMQ Это RabbitMQ
QA juniors QA juniors
GameDev for Web GameDev for Web
MySQL (EN) MySQL (EN)
Go Get A Job Go Get A Job
pro.osdev - os developmen... pro.osdev - os developmen...
Lame C++ Lame C++
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
PostgreSQL (English) PostgreSQL (English)
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
Ember_js Ember_js
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
Django Django
WordPress – русскоговорящ... WordPress – русскоговорящ...
Язык программирования Jul... Язык программирования Jul...
ReasonML и OCaml ReasonML и OCaml
sentry_ru sentry_ru
ansible — русскоговорящее... ansible — русскоговорящее...
WebAssembly — русскоговор... WebAssembly — русскоговор...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
ru_jenkins ru_jenkins
Natural Language Processi... Natural Language Processi...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Python Python
Assa-Byn

Еще один вопрос по многопоточности. Я правильно структуирую многопоточный код?

screenshot

Просто, даже в 4 потоках(включая основной) прирост в скорости лишь х2(если сравнивать с одним потоком). На парсинг 40 страниц(разбил на каждый поток по 40 страниц) уходит около 30 секунд(в одном потоке), на парсинг 200 страниц в 4 потоках 90 секунд. В одном потоке парсинг 200 страниц 200 секунд

#backend #programming #python #russian
0

17 ответов

6 просмотров
Oskar-Sharipov

Парсинг, наверное, тяжелый, и ты упираешься в GIL. Может тебе стоит перепрыгнуть на многопроцессинг.

0
26.05.2021
Assa-Byn Автор вопроса
Oskar Sharipov
Парсинг, наверное, тяжелый, и ты упираешься в GIL....

попробовал, результат почти тот же, те же 90-100 секунд. Скорее всего парсинг тяжелый и сайт как-то задерживает столько реквестов в секунду(если такое понятие существует)

0
26.05.2021
Alex-
Assa Byn
попробовал, результат почти тот же, те же 90-100 с...

во-первых нужно понять во что ты упираешься и как именно "пробовал".

0
26.05.2021
Assa-Byn Автор вопроса
Alex
во-первых нужно понять во что ты упираешься и как ...

Сверху скидывал скрины кода, многопроцессовую задачу создавал точно также

0
26.05.2021
Oskar-Sharipov
Assa Byn
6

6 физических? Ты не путаешь с логическими? Скажи процессор, пожалуйста.

0
26.05.2021
Oskar-Sharipov
Assa Byn
думаю путаю, intel 9400

Если i5 9400, то, кажется, не путаешь. Тогда должно было распараллелиться аккуратно, значит странности есть. Видимо, код всё же багованный.

0
26.05.2021
Assa-Byn Автор вопроса
Oskar Sharipov
Если i5 9400, то, кажется, не путаешь. Тогда должн...

Да, думаю так и есть. Попробовал в три потока, скорость та же самая что и при 5 потоках. Спасибо большое

0
26.05.2021
Alex-
Assa Byn
Да, думаю так и есть. Попробовал в три потока, ско...

дай угадаю, ты делаешь запросы и сразу же парсишь ответ в том же потоке \ процессе?

0
26.05.2021
Alex-
Assa Byn
да

ну а чего ты ожидал? пока твой процесс лазит в сеть, он просто ждет.

0
26.05.2021
Assa-Byn Автор вопроса
Alex
ну а чего ты ожидал? пока твой процесс лазит в сет...

не, я выше писал что при парсинге 40 страниц уходит 30-40 секунд, а при парсинге 200 страниц(в 5 потоков, на каждый поток дал по 40 страниц) парсит 100 секунд. Поэтому спросил, правильно ли я структуировал многопоточный код

0
26.05.2021
Alex-
Assa Byn
не, я выше писал что при парсинге 40 страниц уходи...

нет, не правильно. узкое место у тебя очевидно не CPU.

0
26.05.2021
Alex-
Well Done
.

нет. и вообще замерять нужно, а не гадать.

0
26.05.2021

Похожие вопросы

Python Python / Evgeniy Blinov
Подписаться

Подскажите, существует ли готовый декоратор, который можно навесить на функцию, и который проконтролирует, что поступающие в нее параметры соответствуют тайпхинтам?

#backend #programming #python #russian
26.09.2023
0
85 ответов
Python Python / Ilya
Подписаться

/home/rpi1/Desktop/Python-3.8.15/PolarizedCameraCalib/bin/python3.8 -m pip install pandas==1.5.2 Looking in indexes: https://pypi.org/simple, https://www.piwheels.org/simple C...

#backend #programming #python #russian
04.11.2023
0
36 ответов
Python Python / $
Подписаться

Парни,как двигаться в питоне дальше?Пока что только ботов писал...Что нужно ещё уметь,чтобы стать джуном?

#backend #programming #python #russian
23.09.2023
0
65 ответов
Python Python / blockii
Подписаться
screenshot

Тяжела жизнь джуна, 0 приглашений на собес, я вот не понимаю, как они определяют, что я им не подхожу?

#backend #programming #python #russian
12.11.2023
0
48 ответов
Python Python / Будина
Подписаться

Dart это хороший язык для?

#backend #programming #python #russian
22.08.2023
0
67 ответов
Python Python / Михаил
Подписаться

Добрый вечер. Не знаю, как загуглить вопрос, поэтому пришлось в чаты. Я запустил асинк скрипт, который в процессе работы не нашёл нужный компонент и после прерывания работы пр...

#backend #programming #python #russian
23.10.2023
0
46 ответов
Python Python / garrip91
Подписаться

Всем здравия! Люди, как мне построчно (желательно с указанием индекса или номера строки) прочитать содержимое файла CSV с последующим преобразованием содержимого в список? Же...

#backend #programming #python #russian
29.07.2023
0
65 ответов
Python Python / ))
Подписаться

Ребят,кто шарит в теме программирования,я просто совсем нет) стоит учить язык си, обычный без плюсов и тд?

#backend #programming #python #russian
05.11.2023
0
45 ответов
Python Python / Сергей
Подписаться

Всем привет, не подскажете, это нормально если 100 тысяч записей в csv обрабатываются 20-30 минут?

#backend #programming #python #russian
10.10.2023
0
49 ответов
Python Python / Ax3🇺🇦
Подписаться

хм. Представим себе класс Database от интернет-магаза, у которого есть метод def getGoodsFromCategory(self, category): pass Как лучше сделать ввод категории? Есть в...

#backend #programming #python #russian
21.05.2023
0
68 ответов
Смотреть еще
Python Python
Подписаться
Вопросов 90395
Ответов 208232
Участников 13678
Telegram @ru_python

Обсуждают сегодня

Всем привет, написал код ниже, но он выдает сегфолт, в чем причина? #include <stdio.h> #include <stdlib.h> #include <string.h> struct product { char *name; float price; };...
buzz базз
75
База данных не поможет. Шифрование не поможет. Какие там ещё варианты? Накидывайте.
КТ315
20
А табстоп это сообщение от окна или от элемента управления?
The Bird of Hermes
18
А как лучше конвертировать физический адрес в виртуальный при маппинге? В случае ядра у меня, например, direct mapping, первые 768МБ я как есть мапплю в higher half, а остальн...
Evg Resh
26
Открыл свой двухкилобайтный экзешник в x32dbg, а тут какая-то хрень. Смущает кнопка "выполнить до пользовательского кода", а что ещё может быть в файле помимо него ?
НѣкъиⰘижєжєиꙁъвьсєсвѣтьноѣсѣтиѥсть•
11
Мне были интересны дишные хаки и я нашёл любопытный способ на форуме через __traits, что-то вроде int delegate(int) fac = (int n) => n == 0 ? 1 : n * __traits(parent, {})(n - ...
Constantin F.
1
Вопрос тем кто смотрит видео и слушает подкасты - как вы потом ищете нужную вам информацию? Вот статью я прочитал, потом могу искать нужную мне часть банальным поиском. Пропус...
Aleksandr Druzhinin
4
Всем привет, подскажите/посоветуйте пожалуйста. Фаердак компоненты, имею одно место где бизнес хочет видеть при открытии формы список всех клиентов, это порядка 30к. Мои дово...
Sasha Sch
14
Ребят, если кто в курсе - скажите, а в загранке такое же засилье маркетплейсов? или там простые сермяжные интернет-магазины живут попроще?
Андрей [aharito] Харитонов
14
Коллеги, доброе утро. Запустил на удаленном хосте приложение (ручками зашел туда по ssh и запустил, не командой удаленно). Создал потом ssh-туннель, и с моей машины приложение...
Δημήτηρ
9
Карта сайта