Come funziona
Il generatore robots.txt scrive un solo gruppo user-agent e verifica la sintassi dei percorsi prima dell'esportazione. Una lista Disallow vuota lascia la scansione senza restrizioni per l'agente selezionato.
Esempio
Una riga Disallow per /private/ chiede ai crawler corrispondenti di non richiedere percorsi con quel prefisso.
Prima di usare il risultato
Il file robots.txt è pubblico e il suo rispetto è volontario. Non protegge i file privati né garantisce la rimozione dai risultati di ricerca. Pubblicalo nella radice del sito; il controllo degli accessi e le direttive di indicizzazione sono decisioni separate.
Cita questa pagina
ToolOctopus. “Generatore robots.txt.” Aggiornato 7 ottobre 2026. https://tooloctopus.com/it/generatore-robots-txt.
Aggiungi la data di consultazione se le istruzioni che segui la richiedono.
Le citazioni sono formattate con citeproc-js di Frank Bennett e gli stili Citation Style Language. Licenza e codice sorgente.