170 похожих чатов

Добрый день, дорогие. Возникла такая неприятная оказия, что появилась необходимость

парсить авито. И тут есть вариант делать это или через selenium, или пытаться как-то по запросам. Селениум по тестам вышел просто нереально медленным, потому хотелось бы первый вариант. Однако авито имеет какие-то дикие совершенно анти-бот системы.

Есть такой код(он на requests чисто для теста, если получится - будет написан на aiohttp): https://pastebin.com/kCdrzWTC

На что жалуется авито? Я поменял заголовки, вставляю даже куки туда(в пример сделал пустую строчку, но вообще они там есть), а он не поддаётся

6 ответов

10 просмотров

Печальная оказия Пиши владельцам сайта, узнавай как получать инфу без херни

Как на счет апи?

Александр-Солнцев Автор вопроса
Artem
Как на счет апи?

У них оно для большинства методов закрыто, если не ошибаюсь

Александр Солнцев
У них оно для большинства методов закрыто, если не...

Пишешь им что тебе очень надо, объясняешь причину Откроют - делаешь Не откроют - не делаешь

Александр-Солнцев Автор вопроса
Artem
Проверь. В общем, парсить - плохая затея

Не, там вообще нет необходимых методов. Суть то в том, что например postman спокойно проводит запрос так, что авито на это не ругается. А вот сам я через requests даже с копированием всех заголовков не могу

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
> Копаем глубже > Следующий момент был, когда я спросил его, знает ли он JavaScript. Он ответил, что его учили работать с C#. Я тоже в университете писал на C#, но даже там мн...
Oleg Volkov
4
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
7
Народ! Впервые клиенту пришло письмо от РКН, у вас, дескать, есть яндекс метрика, а нигде не написано, что вы ее юзаете. Никто не сталкивался?
Sasha Beep
14
Всем привет! вывожу на общей стр дочерние ресурсыв каждом ресурсе галерея, и первая фотка должна выводиться на общей [!DocLister? &prepare=photo !]
Alekso
12
А можно вопрос? Мне сегодня сказали что у меня функция (которая просто заполняет массив значениями) не правильная void Full(double * arr, int n) { for (int i = 0; i < n; i...
† C E †
7
Добрый вечер. Хочу чтобы у меня в классе поле было функцией, которая возвращает строку. Делаю так: interface ... TGetOutPath = function : String of object; ... protec...
Kirill Filippenok
12
Карта сайта