Добрый день Меня попросили ограничить доступ к сайту всем поисковикам, а

оставить только для гугл.
Сейчас я получаю имя хоста с помощью функции gethostbyaddr, а потом ищу там слово гугл в названии.
После проверяю принадлежность ip к имени хоста. Делаю запрос ip по имени хоста (с мощью функции gethostbyname).
Проверяю ip бота, а потом ip от функции gethostbyname
Если ip оказался одинаковым, то запрос идет дальше

Я не уверен, что это достаточно.
Возможно, кто-то сталкивался с подобной задачей ?

10 ответов

34 просмотра

У меня есть предположение, что лучше переложить эту задачу на сервис типа cloudflare, но это лишние расходы

Найди в гугл ip его ботов и фильтруй

robots.txt не катит?

tech-st Автор вопроса
Vladislav Lyshenko
Найди в гугл ip его ботов и фильтруй

я нашел вот эту ссылку https://developers.google.com/search/apis/ipranges/googlebot.json , но на практике оказалась что этот список не полный

https://developers.google.com/search/docs/crawling-indexing/verifying-googlebot

tech-st Автор вопроса

Если ограничить именно поисковики то robots.txt.

Поисковики через robots.txt, парсеры через условную мидлварь или фильтр на уровне веб-сервера / WAF / DDoS itc

В robots просто прокинь правила и все. Адреса гугла все открыты и известны

Не знаю насколько поможет, но я бы начал ограничение через гугловый dns

Похожие вопросы

Обсуждают сегодня

Привет, кто может сделать юзербота с апи? Задачи: - создавать группы - создавать каналы - задавать для созданных каналов аватарку или эмоджи, имя группы - добавлять в группы...
Lencore
11
А чего при переходе с 2 на 3 все что в билдере сделано тютю?
Денис Александрович
5
Всем привет, Добавил в плагин определение user agent public function registerMarkupTags() { return [ 'filters' => [ 'staticPage' => ['RainLab\Pages\Cl...
John Norton Kruger
3
Я колись ставив гуглу антиспам 3.0, може і норм, але мені не дуже зайшло. Теж думав тиждень, що його і куди. Зупинився на трех варіантах відразу всі три і включив 1. Перевір...
𝓔𝓾𝓰𝓮𝓷𝓮𝓥 J
2
К слову, почему бы не использовать ссылки на папки, вместо инвайтинга?
Артем Уколов
3
Всем привет, может кто знает нормальных иностранных хостинг провайдеров. Что бы по качеству аналогичные netangels, beget, timeweb?
Black Cat
4
Кастомные эмодзи для ботов доступны только элите, верно?
山 | Bobby | 山
3
Портфолио: Зовут меня Александр, мне 36 лет. Город Пушкино. Общий рабочий стаж: ~14 лет Уровень квалификации: Senior Full-stack developer Где прочесть мой код? https://github....
Magic
10
а плагин никто еще не написал ?
DAVID (Data Analyst)
2
Добрый день , слышали про то что XML схемы https://schemas.xmlsoap.org/soap/envelope/ перестали работать со поза-вчера. А домен https://schemas.xmlsoap.org/ , отвечает 404 оши...
Max Dubovsky
3
Карта сайта