hello@datascale.de+49 89 921 35 623cookiefrei getrackt · /openDEEN

Suchen Sie nach Leistungen, Integrationen und Blog-Beiträgen.

DatascaleRessourcenChecksrobots.txt

Check · C06 · Security & Bots

robots.txt prüfen

Falsch konfigurierte robots.txt macht die Seite für Google unsichtbar.

Was wird geprüft

Prüft Erreichbarkeit der robots.txt und ob sie alles blockiert.

Warum ist das wichtig

Falsch konfigurierte robots.txt macht die Seite für Google unsichtbar.

Häufige Ursachen

  • Ein „Disallow: /“ aus der Staging-Phase ist mit live gegangen.
  • Die Datei liefert einen Fehler oder Redirect, manche Crawler behandeln das wie eine Blockade.
  • Der Sitemap-Verweis fehlt oder zeigt auf eine tote URL.

So beheben

robots.txt im Web-Root: "User-agent: *" + "Allow: /" + "Sitemap: <URL>".

Erst selbst prüfen

Der Tracking-Check testet diesen Punkt zusammen mit allen anderen in Sekunden.

Tracking-Check starten →
Was bedeutet ein negativer Befund im Check robots.txt?

Falsch konfigurierte robots.txt macht die Seite für Google unsichtbar. robots.txt im Web-Root: "User-agent: *" + "Allow: /" + "Sitemap: <URL>".

Wie behebt man einen negativen Befund im Check robots.txt?

robots.txt im Web-Root: "User-agent: *" + "Allow: /" + "Sitemap: <URL>".

Behebung

Verdrahtet in Tagen, nicht in Sprints.

Befunde aus dem Tracking-Check gehen im Audit Sprint in eine Reihenfolge mit Aufwand, jeder Baustein mit Abnahmekriterium.