Was ist spiderbot?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot spiderbot indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 188.40.70.205 und unter Verwendung des User Agent Mozilla/5.0 (compatible; NetpeakSpiderBot/3.0; https://netpeaksoftware.com/spider). Mit 0.0001% Marktanteil ist spiderbot auf Platz 229 der aktivsten Webrobots im Internet.
„Thousands of SEOs and webmasters use Netpeak Spider to perform day-to-day SEO tasks in the most efficient way. Try it for free!"
— Offizielle Beschreibung des Betreibers
robots.txt – spiderbot blockieren
Füge diese Zeilen in deine robots.txt ein, um spiderbot den Zugriff auf deine Website zu verwehren:
User-agent: spiderbot
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: spiderbot
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
IP-Adressen 6 bekannte IPs
Diese IP-Adressen wurden bisher von spiderbot verwendet:
188.40.70.205
5.135.164.228
5.135.165.89
62.210.113.216
62.210.38.242
92.60.177.109
User Agents
Mit diesen User-Agent-Strings identifiziert sich spiderbot:
Mozilla/5.0 (compatible; NetpeakSpiderBot/3.0; https://netpeaksoftware.com/spider)Spiderbot/Nutch-1.7