Cara memeriksa akses crawler pada sitemap dan robots
Tempel sitemap dan teks robots.txt untuk origin-nya guna melihat URL mana yang boleh diminta crawler pilihan Anda menurut aturan tersebut. Laporan menunjukkan aturan yang cocok dan URL duplikat. Grup crawler tertentu lebih diprioritaskan daripada grup wildcard. Jika tingkat kekhususannya sama, aturan Allow diutamakan.
Contoh
Disallow: /private/ memblokir /private/draft untuk grup wildcard. Allow: /private/public$ mengizinkan tepat path tersebut jika menjadi kecocokan paling spesifik.
Sebelum menggunakan hasil
Alat ini memeriksa aturan secara lokal, bukan melakukan perayapan langsung atau menentukan status pengindeksan. Respons HTTP, noindex, tag canonical, JavaScript, dan pembatasan akses tidak diperiksa. Indeks sitemap harus dibuka sebagai sitemap anak satu per satu terlebih dahulu. Semua URL masukan harus berasal dari satu origin. Tidak ada URL yang diakses.
Diperbarui
Kutip halaman ini
ToolOctopus. “Pemeriksa akses crawler pada sitemap dan robots.” Diperbarui 7 Oktober 2026. https://tooloctopus.com/id/pemeriksa-akses-crawler-pada-sitemap-dan-robots.
Tambahkan tanggal akses jika pedoman yang Anda ikuti mewajibkannya.
Format sitasi menggunakan citeproc-js buatan Frank Bennett dan gaya Citation Style Language. Lisensi dan kode sumber.