Cara menggunakan
Generator robots.txt menulis satu grup user-agent dan memeriksa sintaks path sebelum ekspor. Daftar disallow yang kosong membiarkan crawler yang dipilih mengakses path tanpa pembatasan.
Contoh
Baris Disallow untuk /private/ meminta crawler yang cocok agar tidak mengakses path dengan awalan tersebut.
Sebelum menggunakan hasil
Robots.txt bersifat publik dan kepatuhannya sukarela. File ini tidak melindungi file pribadi atau menjamin penghapusan dari hasil pencarian. Publikasikan di direktori utama situs; kontrol akses dan arahan pengindeksan perlu ditentukan secara terpisah.
Diperbarui
Kutip halaman ini
ToolOctopus. “Generator robots.txt.” Diperbarui 7 Oktober 2026. https://tooloctopus.com/id/generator-robots-txt.
Tambahkan tanggal akses jika pedoman yang Anda ikuti mewajibkannya.
Format sitasi menggunakan citeproc-js buatan Frank Bennett dan gaya Citation Style Language. Lisensi dan kode sumber.