איך בודקים מפת אתר מול robots.txt
הדביקו מפת אתר ואת תוכן robots.txt של המקור שלה כדי לראות אילו כתובות ברשימה הסורק שנבחר רשאי לבקש לפי הכללים. הדוח מזהה את הכלל התואם ואת הכתובות הכפולות. קבוצות של סורק מסוים מקבלות עדיפות על פני קבוצת התו הכללי; כשכללים ספציפיים באותה מידה, כלל Allow גובר.
דוגמה
הכלל Disallow: /private/ חוסם את /private/draft עבור קבוצת התו הכללי. הכלל Allow: /private/public$ מתיר בדיוק את הנתיב הזה כשהוא ההתאמה הספציפית ביותר.
לפני השימוש בתוצאה
זו בדיקה מקומית של כללים, ולא סריקה בפועל או קביעה לגבי הוספה לאינדקס. הכלי אינו בודק תגובות HTTP, noindex, תגיות canonical, JavaScript או מגבלות גישה. אם יש אינדקס מפות אתר, יש לפתוח תחילה כל מפת אתר הכלולה בו בנפרד. כל כתובות הקלט חייבות להשתייך לאותו מקור (origin); לא נשלחת בקשה לאף כתובת.
ציטוט העמוד
ToolOctopus. “בדיקת מפת אתר מול robots.txt.” עודכן 7 באוקטובר 2026. https://tooloctopus.com/he/בדיקת-מפת-אתר-מול-robots-txt.
אם ההנחיות דורשות זאת, יש להוסיף תאריך גישה.
הציטוטים מעוצבים באמצעות citeproc-js של Frank Bennett וסגנונות Citation Style Language. רישיון וקוד מקור.