Was ist semrushbot-si?
Der Webrobot semrushbot-si indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 85.208.98.56 und unter Verwendung des User Agent Mozilla/5.0 (compatible; SemrushBot-SI/0.97; +http://www.semrush.com/bot.html). Mit 0.0001% Marktanteil ist semrushbot-si auf Platz 292 der aktivsten Webrobots im Internet.
„SemrushBot is the search bot software that Semrush sends out to discover and collect new and updated web data."
— Offizielle Beschreibung des Betreibers
Gefahreneinschätzung und Bewertung
Sollte man semrushbot-si blockieren?
Dieser Bot kann Daten sammeln, Rankings analysieren oder Inhalte für externe Systeme abrufen. Erlaube ihn nur, wenn der Nutzen für dich größer ist als Crawl-Last, Datenschutz- oder Content-Scraping-Risiko.
robots.txt – semrushbot-si blockieren
Füge diese Zeilen in deine robots.txt ein, um semrushbot-si den Zugriff auf deine Website zu verwehren:
User-agent: semrushbot-si
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: semrushbot-si
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
Häufige Fragen zu semrushbot-si
Ist semrushbot-si ein guter oder schlechter Bot?
Das hängt vom Einsatzzweck ab. semrushbot-si ist als SEO-Tool-Crawler eingeordnet. Entscheidend sind Serverlast, Crawl-Verhalten, Nutzen für deine Website und ob der Bot deine Regeln respektiert.
Wie erkenne ich semrushbot-si in Server-Logs?
Suche nach dem User-Agent-Namen semrushbot-si. Ein beobachteter User-Agent ist Mozilla/5.0 (compatible; SemrushBot-SI/0.97; +http://www.semrush.com/bot.html). Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
IP-Adressen 2 bekannte IPs
Diese IP-Adressen wurden bisher von semrushbot-si verwendet:
85.208.98.56
85.208.98.57
User Agents
Mit diesen User-Agent-Strings identifiziert sich semrushbot-si:
Mozilla/5.0 (compatible; SemrushBot-SI/0.97; +http://www.semrush.com/bot.html)