169 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
SwiftBook SwiftBook
Delphi & Lazarus Delphi & Lazarus
Solidity Development Solidity Development
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
IDE и редакторы — русског... IDE и редакторы — русског...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
Delphi Community Delphi Community
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Modern::Perl Modern::Perl
Oracle RU Oracle RU
DevOps DevOps
ru.nim.talks ru.nim.talks
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
Haskell Start Haskell Start
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
Python для анализа данных Python для анализа данных
ErlangRus ErlangRus
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
Electron.js Electron.js
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
MySQL MySQL
pro.osdev - os developmen... pro.osdev - os developmen...
QA juniors QA juniors
GameDev for Web GameDev for Web
Lame C++ Lame C++
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
FreePascal & Lazarus FreePascal & Lazarus
WordPress – русскоговорящ... WordPress – русскоговорящ...
Язык программирования Jul... Язык программирования Jul...
Django Django
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
PHP PHP
Sergey-Nikitchenko

Может кто подскажет удачные архитектуры для парсера с множеством

воркеров?
Пока в голове крутится такая схема: командное приложение кидает таски в очередь (что и где спарсить), воркеры ходят парсят, обрабатывают результат и кидают в другую очередь. Очередь результатов слушается в несколько потоков и записывается в бд.
Хочется парсить много и быстро, с возможностью масштабирования.
Это норм схема или можно лучше?

#php #programming #russian
0

4 ответов

15 просмотров
~-

голанг

0
21.07.2021
Andrey-Shchedrin

Делал так, норм, на определённых объёмах

0
21.07.2021
Альберт-Степанцев

можно и без очереди супервизор берет UoW и запускает в форке воркер так вы немного сэкономите время на бутстрап новых воркеров

0
21.07.2021
Sergey-Nikitchenko Автор вопроса

я вот как раз хотел воркеры держать на супервизоре, чтобы они ждали сообщения в очереди спасибо всем за ответы :)

0
21.07.2021

Похожие вопросы

PHP PHP / Александр Егоров
Подписаться

Разбераюсь в архитектуре в модульного монолита, получается UI слой лежит наверху потом идут модули, из UI мы дергаем необходмые модули: Банально пришел заказ, мы должны созд...

#php #programming #russian
08.11.2023
0
51 ответов
PHP PHP / anna
Подписаться

всем привет функция обрабатывает большой объем информации, на который уходит много времени, поэтому постоянно сталкиваюсь с 504 gateaway timeout. в начале функции указано se...

#php #programming #russian
25.07.2023
0
52 ответов
PHP PHP / Сергей
Подписаться

Там кода на 2к строк, ребята. Или вы думаете мы api банка переписываем?

#php #programming #russian
11.08.2023
0
35 ответов
PHP PHP / Anton Petrusevich
Подписаться

вопрос в следующем: во всех руководствах надо руками запускать java -jar selenium-server-standalone-3.141.59.jar (ну или типа того), а как бы сделать такой запуск/завершение ...

#php #programming #russian
12.09.2023
0
27 ответов
PHP PHP / RAY
Подписаться

всем привет, установил php8.2.7 и 10.5.20-MariaDB создал БД openair и таблицу с 2 столбцами name (varchar) и description(text). сделал html страницу с названием стран, хочу...

#php #programming #russian
12.07.2023
0
10 ответов
PHP PHP / Nikita
Подписаться

Подскажите, в докере такое при sudo bash: sudo: command not found Без sudo E: Could not open lock file /var/lib/dpkg/lock-frontend - open (13: Permission denied) E: Unable t...

#php #programming #russian
13.11.2023
0
19 ответов
PHP PHP / Павел Ланчев
Подписаться

Коллеги, подскажите такой момент пожалуйста. Переезжаем мы значит в облако Есть у нас проект на php , крутится в кубере. Настроен автодеплой, и при каждом деплое образ собира...

#php #programming #russian
02.11.2023
0
1 ответов
PHP PHP / Maksim Masiukevich
Подписаться

Если я вижу "мы переписываем на го", то с гарантией в 146% там сидят, кхм, не очень умные ребята. Тем более с жабы И зачем мне отвечать на второй вопрос?)

#php #programming #russian
11.08.2023
0
23 ответов
PHP PHP / Neo
Подписаться

Здравствуйте, я новичок , подскажите пожалуйста , какие курсы , что почитать и так далее чтобы изучить и прогать на пыхе?

#php #programming #russian
04.11.2023
0
18 ответов
PHP PHP / SuleYman Aliev
Подписаться

Кажись от сути вопроса ушли в сторону, вопрос был о межклассовых типах отношениях композиция и зависимость, различия между ними на уровне реализации кода. Композиция это инста...

#php #programming #russian
15.07.2023
0
18 ответов
Смотреть еще
PHP PHP
Подписаться
Вопросов 18381
Ответов 30266
Участников 2641
Telegram @prophp7

Обсуждают сегодня

Мужики и девушки, привет) в Вelphi xe7 в настройках во вкладке "Editor Options" далее " Color" есть список: "Elements", открыв который мы можем настраивать отображение разных...
Kraszx
14
Добрый вечер. Есть вопрос, а может и предложение. Был у меня диалог в другой группе о делфи и я задался вопросом: "А нельзя ли в делфи цвет //коментария и {комментария} сде...
Kraszx
24
Всем привет! Подскажи, пожалуйста, как передать в TComboBox сразу значение и id записи. На Delphi я делал так: ComboBox1.Items.AddObject('Какое-то значение', Pointer(id запис...
Евгений
13
А вот это что за конструкция? Вернее, она тут нафига?
Serjone
10
Привет. Подскажите, как правильно сматчить лист фиксированного размера, чтобы компилятор не говорил мне о неполном паттерне? Допустим что-то такое [x', y'] = sort [x, y]?
Arseny
8
Мдя, прикол, боевая сборка запускается (именно под отладчиком) после F9 примерно полторы минуты (97 секунд если быть точным). Начал копать - проблема детектится сразу - зависа...
Александр (Rouse_) Багель
38
Здравствуйте, вопрос по структурам данных. Были у вас случаи, когда пришлось писать деревья или двунаправленные списки?
/ /
50
Мужики. привет) в Вelphi xe7 в настройках во вкладке "Editor Options" далее " Color" есть список: "Elements", открыв который мы можем настраивать отображение разных элементов...
Kraszx
2
Товарищи, кто работа с iphelper? Или может я в самой логике ошибки фигачу, не пойму.... var ifTable : PMIB_IFTABLE; size, corSize: DWORD; Buffer ...
Warfarellen
4
я так понимаю, я так подозреваю, что создание такого плагина для человека, кто умеет писать плагины для делфи потребует минут 5-10 времени. но это мое подозрение. хотелось бы ...
Kraszx
7
Карта сайта