170 похожих чатов

Используя библиотеку requests не получится ведь асинхронно парсить сайт?

8 ответов

6 просмотров

А зачем тебе асинк парсинг сайта? Ну ты можешь использовать стэк aiohtpp, asyncio и bs4, если прямо асинк парсинг нужен

🇺🇦 | osumico | 🇺🇦
А зачем тебе асинк парсинг сайта? Ну ты можешь исп...

Причем сначала придется собирать страницы, а уже потом их обрабатывать с помощью bs4

r nurnu
Причем сначала придется собирать страницы, а уже п...

Ну если человек не классический писатель парсеров, то можно использовать очередь и мультитрид. Будет довольно шустро.

🇺🇦 | osumico | 🇺🇦
Ну если человек не классический писатель парсеров,...

Не люблю треды в питоне, я всегда сначала собираю инфу асинком (где это нужно), а потом обрабатываю

NR- Автор вопроса

Действительно, зачем быстрее получать данные

NR
Действительно, зачем быстрее получать данные

https://ru.stackoverflow.com/questions/445768/%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%BF%D0%BE%D1%82%D0%BE%D1%87%D0%BD%D0%BE%D0%B5-vs-%D0%B0%D1%81%D0%B8%D0%BD%D1%85%D1%80%D0%BE%D0%BD%D0%BD%D0%BE%D0%B5-%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5

NR
Действительно, зачем быстрее получать данные

Парсинг разный бывает, и если ты скрапишь просто небольшую информацию с небольших страниц, и делаешь это много. Тогда да, асинк имеет место быть. Хреначить асинк код везде где только можно это плохой звоночек. Стоит это обговорить просто заранее для понимания что ты знаешь что такое асинк, синк, поток и многопоток. Асинхронность кстати может стать твоим самым крутым ночным кошмаром при отсутствии понимания как с ней работать, и правильной организации асинк софта. Это так, к слову.

NR- Автор вопроса
🇺🇦 | osumico | 🇺🇦
Парсинг разный бывает, и если ты скрапишь просто н...

По ссылкам на сайте нужно было переходить, потом с них получать информацию, тут явно в асинхронности есть смысл, как по мне, т.к. более 15 раз нужно отправлять запросы на разные страницы(в дальнейшем больше будет🥲). Базовые понятия многопоточности и асинхронности есть уж.

Похожие вопросы

Обсуждают сегодня

А еще в перле можно уже @arr1 + @arr2?
Sergei Zhmylove
53
я не магистр хаскеля, но разве не может лейзи тип конвертнуться в не-лейзи запросив вычисление содержимого прям при инициализации?
deadgnom32 λ madao
100
Привет всем. появился вопрос. Разрабатываю сайт, в данный момент он запущен. Хостинг beget. Добавляю на сайт яндекс метрику с помощью полей client-settings (взято отсюда http...
Andrew
2
Подскажите, где смотреть результат выполнения программы? Код: ;.686 ;Система команд процессора 686 ;.MODEL FLAT,stdcall ;Модель памяти плоская, станда...
Егор Анелькин
5
Где в Астане можно купить мясо для шашлыков?
Dancing Іңұқәһүғө
21
Добрый день подскажите пожалуйста может кто то сталкивался с ошибками Sentry 22.10.0 развернутым из helm чарт в Kubernetes? Изначально 3 дня назад очень стало много событий ух...
Tire4 Finist Devops
1
;.686 ;Система команд процессора 686 ;.MODEL FLAT,stdcall ;Модель памяти плоская, стандартный ;вызов процедуры ;option casemap:no...
Егор Анелькин
1
почому оно не работает?
Vi Chapmann ٩( 💢•̀ з•́)و Chapmann
19
всем привет почти закончил курс После него можно писать свою операционку? Какие библиотеки надо использовать и куда дальше копать для изучения
Linus
19
Так а кто может спарсить всех участников чата? Идишники
Magic
18
Карта сайта