Überblick
Zweck
Generates link previews on X.
Exakter User-Agent
Twitterbot
robots.txt
Allow-Beispiel
User-agent: Twitterbot Allow: /
Block-Beispiel
User-agent: Twitterbot Disallow: /
Wichtige Einschränkung
Das robots.txt-Ergebnis beschreibt die veröffentlichte Regel für den getesteten Pfad. Es beweist weder Crawling noch Indexierung, Training oder Zitate.
Häufige Frage
Steuert diese Regel alle Produkte desselben Betreibers?
Nein. Betreiber können getrennte User-Agents für Training, Suche und nutzergesteuerten Abruf veröffentlichen.
Offizielle Quelle
Consult the operator’s current documentation before publishing a policy change.