Was ist spiderbot?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot spiderbot indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 188.40.70.205 und unter Verwendung des User Agent Mozilla/5.0 (compatible; NetpeakSpiderBot/3.0; https://netpeaksoftware.com/spider). Mit 0.0001% Marktanteil ist spiderbot auf Platz 201 der aktivsten Webrobots im Internet.
Betreiber & Risiko
- Keine öffentlichen Betreiber-Infos bekannt
robots.txt – spiderbot blockieren
Füge diese Zeilen in deine robots.txt ein, um spiderbot den Zugriff auf deine Website zu verwehren:
User-agent: spiderbot
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: spiderbot
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
IP-Adressen 6 bekannte IPs
Diese IP-Adressen wurden bisher von spiderbot verwendet:
188.40.70.205
5.135.164.228
5.135.165.89
62.210.113.216
62.210.38.242
92.60.177.109
User Agents
Mit diesen User-Agent-Strings identifiziert sich spiderbot:
Mozilla/5.0 (compatible; NetpeakSpiderBot/3.0; https://netpeaksoftware.com/spider)Spiderbot/Nutch-1.7