Überblick
Zweck
Google web search crawler.
Exakter User-Agent
Googlebot
robots.txt
Allow-Beispiel
User-agent: Googlebot Allow: /
Block-Beispiel
User-agent: Googlebot Disallow: /
Wichtige Einschränkung
Das robots.txt-Ergebnis beschreibt die veröffentlichte Regel für den getesteten Pfad. Es beweist weder Crawling noch Indexierung, Training oder Zitate.
Häufige Frage
Steuert diese Regel alle Produkte desselben Betreibers?
Nein. Betreiber können getrennte User-Agents für Training, Suche und nutzergesteuerten Abruf veröffentlichen.