170 похожих чатов

Привет, есть тут люди занимающиеся парсингом сайтов? не могу на

одном сайте никак ответ от json апишки получить: использую axios, заголовки отправляю прям как в браузере, использую keep alive соединение, при этом через браузер все открывается

пинганите плиз, в лс скину всю инфу, буду оч благодарен за помощь

4 ответов

11 просмотров

Если нужно парсить хитрые сайты, лучший выбор - playwright+headless браузер

Максим-Strelets Автор вопроса
Alexey Ermakov
Если нужно парсить хитрые сайты, лучший выбор - pl...

так там прикол в том, что по сути мне даже эмулировать браузер не надо есть открытая наружу апишка https://apis.flowwow.com/apiuser/products/info/?id=62814000&city_id=282&lang=ru&currency=RUB из которой я просто хочу периодически узнавать цену делаю так, а они каким-то образом детектят, что я не с браузера захожу и отдают 403 js async function getProductInfo(id) { const response = await axios.get('https://apis.flowwow.com/apiuser/products/info/?id=57465788&city_id=282&lang=ru&currency=RUB', { httpsAgent: new https.Agent({ keepAlive: true }), referrerPolicy: 'strict-origin-when-cross-origin', headers: { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36", "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7", "accept-language": "ru-RU,ru;q=0.9", "cache-control": "max-age=0", "sec-ch-ua": "\"Not/A)Brand\";v=\"99\", \"Google Chrome\";v=\"115\", \"Chromium\";v=\"115\"", "sec-ch-ua-mobile": "?0", "sec-ch-ua-platform": "\"Windows\"", "sec-fetch-dest": "document", "sec-fetch-mode": "navigate", "sec-fetch-site": "none", "sec-fetch-user": "?1", "upgrade-insecure-requests": "1" } }); return response.response.data }

Максим-Strelets Автор вопроса

ага

Максим Strelets
ага

https://variti.io/ru-ru/

Похожие вопросы

Обсуждают сегодня

Какой-то там пердун в 90-х решил, что есть какая-то разная типизация. Кого вообще это волнует?
КТ315
49
void terminal_scroll() { memmove(terminal_buffer, terminal_buffer + VGA_WIDTH, buffer_size - VGA_WIDTH); memset(terminal_buffer + buffer_size - VGA_WIDTH, 0, VGA_WIDTH); ...
Егор
47
Всем привет! Подскажите, пожалуйста, в чем ошибка? Настраиваю подключение к MySQL. Либы лежат рядом с exe. Все как по "учебнику"
Евгений
16
А можете как-то проверить меня по знаниям по ассемблеру?
A A
132
Здравствуйте! У меня появилась возможность купить книгу "Изучай Haskell во имя добра!". Но я где-то слышал, что эта книга устарела. Насколько это правда??
E
22
Здравствуйте! Я вот на stepic решаю задачи на хаскеле https://stepik.org/lesson/8443/step/8?unit=1578 мой код import Data.List (isInfixOf) removing :: String -> [String] ->...
E
10
Камрады, кто тесно работал с vtv, хотел уточнить. Ширина column задаётся жёстко на этапе создания дерева или можно в рантайме ее менять программно (не мышкой)?
Ed Doc
10
да ладно ... что там неочевидного ? глянуть в исх-ки датасета и/или кверика чтобы понять в каком месте и как выполняется обращения к св-вам blablaSQL - минутное дело, даже е...
Сергей
7
Здесь для arm кто-нибудь кодит ?
Nothing
52
Всем привет, у меня есть сервер принимающий входящие HTTP подключения, как проверить, что подключение было через прокси или нет, есть какие то поля в заголовках по которым мо...
Кибер Бомж
8
Карта сайта