170 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
aiogram aiogram
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Android Architecture Android Architecture
Ассемблер Ассемблер
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
Tarantool Tarantool
pro.elixir pro.elixir
Python Flask Python Flask
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
learn.java learn.java
Big Data Science :: AI / ... Big Data Science :: AI / ...
DevsHelper DevsHelper
SwiftBook SwiftBook
Solidity Development Solidity Development
pro.net (former COM+) pro.net (former COM+)
Delphi & Lazarus Delphi & Lazarus
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
ru_mysql ru_mysql
pro.lua pro.lua
Evolution CMS развитие и ... Evolution CMS развитие и ...
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Dart / Flutter Dart / Flutter
pro.Asm pro.Asm
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
IDE и редакторы — русског... IDE и редакторы — русског...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Flutter Developers — русс... Flutter Developers — русс...
AutoIT RU AutoIT RU
Lame C Lame C
AI / Искусственный Интелл... AI / Искусственный Интелл...
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
dlang.ru dlang.ru
Java Underground Java Underground
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
pro.vim pro.vim
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Delphi Community Delphi Community
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
Server Side Swift Develop... Server Side Swift Develop...
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Oracle RU Oracle RU
DevOps DevOps
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
Modern::Perl Modern::Perl
Odoo talks & fun Odoo talks & fun
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
ru.nim.talks ru.nim.talks
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
Powershell Rus Powershell Rus
Haskell Start Haskell Start
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
phpclub.ru phpclub.ru
ErlangRus ErlangRus
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
Electron.js Electron.js
Это RabbitMQ Это RabbitMQ
MySQL (EN) MySQL (EN)
QA juniors QA juniors
GameDev for Web GameDev for Web
Go Get A Job Go Get A Job
Lame C++ Lame C++
pro.osdev - os developmen... pro.osdev - os developmen...
PostgreSQL (English) PostgreSQL (English)
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
Ember_js Ember_js
FreePascal & Lazarus FreePascal & Lazarus
Tilda Developers Tilda Developers
Django Django
WordPress – русскоговорящ... WordPress – русскоговорящ...
Язык программирования Jul... Язык программирования Jul...
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
WebAssembly — русскоговор... WebAssembly — русскоговор...
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
systemd systemd
macOS Developers — русско... macOS Developers — русско...
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Python beginners Python beginners
>>>-

Привет) Я вот пытаюсь спарсить с сайта разные категории товаров.

В трех потоках. В каждом сессия создается, рандомный прокси и определённая категория. Но я все равно ловлю 429й статус код.
Подскажите, как это обойти?
Если код 429, то я обновляю сессию и новый прокси туда ж пихаю. Куки от меня пустые.
Что я не так делаю?

Я бы хотел обойти ошибку не сном, а сменой ip
В заголовках нет подсказки, насколько я обнаглел и сколько нужно подождать.
Я и так сплю от 10 до 100 секунд примерн перед каждым реквестом

#backend #programming #python #russian
0

8 ответов

9 просмотров
Алиса-Кассель-Королёва

@Tishka17 проконсультируешь любителя парсинга?

0
23.12.2021
by-Rew

Привет, дополните пожалуйста ответы на вопросы : Меняете ли заголовки? Прокси на валид чекаете? Парсинг через requests или selenium, либо ещё что-то ?

0
23.12.2021
>>>- Автор вопроса

Извиняюсь, забыл указать, там в цикле происходит обновление прокси и только суп с реквестом. Я не профи, надеюсь, код не слишком кошмарный https://dpaste.com/DGDYAGZTP в функции load_page происходит обновление

0
23.12.2021
Tishka17-
>>>
Извиняюсь, забыл указать, там в цикле происходит о...

Не надо менять прокси. Взял один и юзай всегда. А скорее всего вообще без прокси можно

0
23.12.2021
>>>- Автор вопроса
Tishka17
Не надо менять прокси. Взял один и юзай всегда. А ...

Я подумал, чтоб не заблочили ip

0
23.12.2021
Tishka17-
>>>
Я подумал, чтоб не заблочили ip

чтобы не заблочили по айпи надо условия использования сайта не нарушать

0
23.12.2021
Александр-
Tishka17
Не надо менять прокси. Взял один и юзай всегда. А ...

надо.если с одного прокси делать запросы,выдаст капчу(код 429),либо делать паузы между запросами,но парсить будет медленно.ему как я понял нужна именно скорость(в коде multiprocessing используется )

0
23.12.2021

Похожие вопросы

Python beginners Python beginners / Alex
Подписаться

Что лучше vs code или pycharm? Всю жизнь пользуюсь pycharm но интересует vs code, так как поддерживает другие яп например js который я немного знаю. + У меня какие-то траблы...

#backend #programming #python #russian
07.10.2023
0
78 ответов
Python beginners Python beginners / Alexandr
Подписаться

Аргумент 200, присвоился иксу? И получилось 100+200?

#backend #programming #python #russian
12.10.2023
0
79 ответов
Python beginners Python beginners / Иван
Подписаться

https://pastebin.com/SG6JugK0 Что не так?

#backend #programming #python #russian
07.10.2023
0
71 ответов
Python beginners Python beginners / Mihail
Подписаться

на всякий случай для себя хочу уточнить. Правильно ли я понимаю, что если я буду использовать докер, то необходимость виртуальных окружений virtualenv отпадает?

#backend #programming #python #russian
18.11.2023
0
50 ответов
Python beginners Python beginners / Alex
Подписаться

знание какого яп будет хорошо сочетаться с python? интересует бэкенд

#backend #programming #python #russian
11.10.2023
0
55 ответов
Python beginners Python beginners / Alex
Подписаться

Что еще за "синхронизированная цепочка команд" ? Синхронизированная с чем?

#backend #programming #python #russian
29.08.2023
0
63 ответов
Python beginners Python beginners / Dmitriy Тiutiunnyk
Подписаться

Как вы вообще относитесь к коду из разряда is_valid: bool = .... if not is_valid: return False Норм это или не очень по питоновски?

#backend #programming #python #russian
22.11.2023
0
44 ответов
Python beginners Python beginners / Andrew Korsten
Подписаться

Есть ли у вас опасения, что ИИ постепенно заберет работу у кодеров, включая питонистов?

#backend #programming #python #russian
07.10.2023
0
47 ответов
Python beginners Python beginners / Артём
Подписаться

А как говориться без бумажки ты какашка, без диплома кто меня возьмет официально?

#backend #programming #python #russian
15.05.2023
0
70 ответов
Python beginners Python beginners / test test
Подписаться

Можете пожалуйста объяснить про ассимптотическую сложность? Есть этот псевдокод, он похож на С язык но это не так важно: Algorithm Add (A,B,n) { for ( i = 0; i < n; i+...

#backend #programming #python #russian
18.10.2023
0
34 ответов
Смотреть еще
Python beginners Python beginners
Подписаться
Вопросов 25487
Ответов 104318
Участников 14815
Telegram @ru_python_beginners

Обсуждают сегодня

Типа вызывать GetParent и проверять на соответствие GetModuleHandle?
The Bird of Hermes
67
Всем привет! Кто нибудь парсил в ручную JSON без библиотек и фреймворков? Есть может ссылки на оптимальный алгоритмы работы с текстом и примеры таких парсеров?
Lem
27
Do any of you guys have interesting projects one could join? I'm a Middle Full-Stack developer (JS/TS, React & Node)
Lev Shapiro
40
Есть сайт. Там была древняя версия эво. Стоял плагин, который каждый коммент в Jot делал отдельной страницей. После обновления все слетело, теперь старница открывается отдельн...
Artem
1
$res = json_decode($наша строка из респонса); $res1 = array_map(fn($o) => $o->name, $res->breadcrumbs[0]->entities); Как такое будет на Хаскеле?.. В начале весь джейсон, в ко...
Хаскель Моисеевич Гопник
27
Добрый день. А shovel'ы можно как-то сконфигурировать в definitions.json? Пробовал что-то вроде: { "users": [ { "name": "agent", "password_hash": "RBCbTzQd...
Aleksey
1
Вопрос по диагностике ошибок (я знаю в чем, в данном конкретном примере, я знаю, как исправить, пример модельный, понятно, что в реальности бывает намного запутаннее). module...
ⰄⰎⰋⰐⰐⰑⰛⰤⰧⰧⰩⰄ ⰊⰑⰁⰓⰡⰛⰦⰕⰫ
11
А чем вам питонисты не угодили?😂
.
79
В чем сила брат, в NASM или FASM?
Isaac Kleiner
18
Есть какой-нибудь для Delphi/FPC T*Compression(Decompression)Stream на базе LZ4/Zstd/любой другой быстрый(и хорошо сжимающий) алгоритм А ещё лучше в pure pascal А ещё лучше од...
notme
52
Карта сайта