So funktioniert es
Der Robots.txt-Generator erstellt eine User-agent-Gruppe und prüft die Pfadsyntax vor dem Export. Bleibt die Disallow-Liste leer, darf der ausgewählte Crawler alle Pfade crawlen.
Beispiel
Eine Disallow-Zeile für /private/ bittet passende Crawler, keine Pfade mit diesem Präfix abzurufen.
Hinweise zum Ergebnis
Robots.txt ist öffentlich, und die Befolgung ist freiwillig. Die Datei schützt keine privaten Dateien und garantiert keine Entfernung aus Suchergebnissen. Veröffentliche sie im Stammverzeichnis der Website. Zugriffsschutz und Indexierungsanweisungen müssen separat festgelegt werden.
Aktualisiert
Diese Seite zitieren
ToolOctopus. “Robots.txt-Generator.” Aktualisiert 7. Oktober 2026. https://tooloctopus.com/de/robots-txt-generator.
Ergänze ein Abrufdatum, wenn deine Vorgaben das verlangen.
Die Quellenangaben werden mit citeproc-js von Frank Bennett und Zitierstilen der Citation Style Language formatiert. Lizenz und Quellcode.