170 похожих чатов

Привет, есть тут люди занимающиеся парсингом сайтов? не могу на

одном сайте никак ответ от json апишки получить: использую axios, заголовки отправляю прям как в браузере, использую keep alive соединение, при этом через браузер все открывается

пинганите плиз, в лс скину всю инфу, буду оч благодарен за помощь

4 ответов

16 просмотров

Если нужно парсить хитрые сайты, лучший выбор - playwright+headless браузер

Максим-Strelets Автор вопроса
Alexey Ermakov
Если нужно парсить хитрые сайты, лучший выбор - pl...

так там прикол в том, что по сути мне даже эмулировать браузер не надо есть открытая наружу апишка https://apis.flowwow.com/apiuser/products/info/?id=62814000&city_id=282&lang=ru&currency=RUB из которой я просто хочу периодически узнавать цену делаю так, а они каким-то образом детектят, что я не с браузера захожу и отдают 403 js async function getProductInfo(id) { const response = await axios.get('https://apis.flowwow.com/apiuser/products/info/?id=57465788&city_id=282&lang=ru&currency=RUB', { httpsAgent: new https.Agent({ keepAlive: true }), referrerPolicy: 'strict-origin-when-cross-origin', headers: { "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36", "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7", "accept-language": "ru-RU,ru;q=0.9", "cache-control": "max-age=0", "sec-ch-ua": "\"Not/A)Brand\";v=\"99\", \"Google Chrome\";v=\"115\", \"Chromium\";v=\"115\"", "sec-ch-ua-mobile": "?0", "sec-ch-ua-platform": "\"Windows\"", "sec-fetch-dest": "document", "sec-fetch-mode": "navigate", "sec-fetch-site": "none", "sec-fetch-user": "?1", "upgrade-insecure-requests": "1" } }); return response.response.data }

Максим-Strelets Автор вопроса

ага

Максим Strelets
ага

https://variti.io/ru-ru/

Похожие вопросы

Обсуждают сегодня

Господа, а что сейчас вообще с рынком труда на делфи происходит? Какова ситуация?
Rꙮman Yankꙮvsky
29
А вообще, что может смущать в самой Julia - бы сказал, что нет единого стандартного подхода по многим моментам, поэтому многое выглядит как "хаки" и произвол. Короче говоря, с...
Viktor G.
2
30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
14
Добрый день! Скажите пожалуйста, а какие программы вы бы рекомендовали написать для того, чтобы научиться управлять памятью? Можно написать динамический массив, можно связный ...
Филипп
7
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
Карта сайта