170 похожих чатов

Используя библиотеку requests не получится ведь асинхронно парсить сайт?

8 ответов

15 просмотров

А зачем тебе асинк парсинг сайта? Ну ты можешь использовать стэк aiohtpp, asyncio и bs4, если прямо асинк парсинг нужен

🇺🇦 | osumico | 🇺🇦
А зачем тебе асинк парсинг сайта? Ну ты можешь исп...

Причем сначала придется собирать страницы, а уже потом их обрабатывать с помощью bs4

r nurnu
Причем сначала придется собирать страницы, а уже п...

Ну если человек не классический писатель парсеров, то можно использовать очередь и мультитрид. Будет довольно шустро.

🇺🇦 | osumico | 🇺🇦
Ну если человек не классический писатель парсеров,...

Не люблю треды в питоне, я всегда сначала собираю инфу асинком (где это нужно), а потом обрабатываю

NR- Автор вопроса

Действительно, зачем быстрее получать данные

NR
Действительно, зачем быстрее получать данные

https://ru.stackoverflow.com/questions/445768/%D0%9C%D0%BD%D0%BE%D0%B3%D0%BE%D0%BF%D0%BE%D1%82%D0%BE%D1%87%D0%BD%D0%BE%D0%B5-vs-%D0%B0%D1%81%D0%B8%D0%BD%D1%85%D1%80%D0%BE%D0%BD%D0%BD%D0%BE%D0%B5-%D0%BF%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5

NR
Действительно, зачем быстрее получать данные

Парсинг разный бывает, и если ты скрапишь просто небольшую информацию с небольших страниц, и делаешь это много. Тогда да, асинк имеет место быть. Хреначить асинк код везде где только можно это плохой звоночек. Стоит это обговорить просто заранее для понимания что ты знаешь что такое асинк, синк, поток и многопоток. Асинхронность кстати может стать твоим самым крутым ночным кошмаром при отсутствии понимания как с ней работать, и правильной организации асинк софта. Это так, к слову.

NR- Автор вопроса
🇺🇦 | osumico | 🇺🇦
Парсинг разный бывает, и если ты скрапишь просто н...

По ссылкам на сайте нужно было переходить, потом с них получать информацию, тут явно в асинхронности есть смысл, как по мне, т.к. более 15 раз нужно отправлять запросы на разные страницы(в дальнейшем больше будет🥲). Базовые понятия многопоточности и асинхронности есть уж.

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта