Zo werkt het
De robots.txt-generator schrijft één user-agentgroep en controleert de padsyntaxis vóór het exporteren. Met een lege lijst van uitgesloten paden blijft crawlen onbeperkt toegestaan voor de gekozen user-agent.
Voorbeeld
Een Disallow-regel voor /private/ vraagt de bijbehorende crawlers om geen paden op te vragen die daarmee beginnen.
Voordat je het resultaat gebruikt
Robots.txt is openbaar en naleving is vrijwillig. Het beschermt geen privébestanden en garandeert geen verwijdering uit zoekresultaten. Publiceer het bestand in de hoofdmap van de site. Toegangsbeheer en instructies voor indexering regel je afzonderlijk.
Bijgewerkt
Deze pagina citeren
ToolOctopus. “Robots.txt-generator.” Bijgewerkt 7 oktober 2026. https://tooloctopus.com/nl/robots-txt-generator.
Voeg een raadpleegdatum toe als je instructies dat vereisen.
Bronvermeldingen worden opgemaakt met citeproc-js van Frank Bennett en stijlen uit Citation Style Language. Licentie en broncode.