Was ist magpie-crawler?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot magpie-crawler indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 185.25.33.72 und unter Verwendung des User Agent magpie-crawler/1.1 (U; Linux amd64; en-GB; http://www.brandwatch.net). Mit 0.0064% Marktanteil ist magpie-crawler auf Platz 81 der aktivsten Webrobots im Internet.
„Continue"
— Offizielle Beschreibung des Betreibers
robots.txt – magpie-crawler blockieren
Füge diese Zeilen in deine robots.txt ein, um magpie-crawler den Zugriff auf deine Website zu verwehren:
User-agent: magpie-crawler
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: magpie-crawler
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
IP-Adressen 7 bekannte IPs
Diese IP-Adressen wurden bisher von magpie-crawler verwendet:
185.25.33.72
5.102.174.132
94.228.34.203
94.228.34.238
94.228.34.249
94.228.34.250
94.228.34.251
User Agents
Mit diesen User-Agent-Strings identifiziert sich magpie-crawler:
magpie-crawler/1.1 (U; Linux amd64; en-GB; http://www.brandwatch.net)