robots.txt Test Aracı

robots.txt dosyanızı indirip söz dizimini denetleyin; herhangi bir adresin Googlebot, Bingbot ya da yapay zekâ botları için engelli olup olmadığını ve hangi kuralın karar verdiğini görün.

Ücretsiz · Robot Kalkanı ile korunur · Sorgular saklanmaz

Robot olmadığımı doğrula

robots.txt

2 grup · 10 satır

Adres testi

İzin veriliyor

Yol: /wp-admin/admin-ajax.php · Grup: *

Kural (satır 3): Allow: /wp-admin/admin-ajax.php

Bütün botlar için bu adres

Arama motorları

  • Googlebot (mobil)
  • Googlebot-Image
  • Bingbot
  • YandexBot
  • Applebot
  • DuckDuckBot

Yapay zekâ botları

  • GPTBot
  • OAI-SearchBot
  • ClaudeBot
  • Claude-SearchBot
  • Google-Extended
  • PerplexityBot
  • Applebot-Extended
  • CCBot
  • Meta-ExternalAgent
  • Bytespider

Sosyal medya önizleme

  • facebookexternalhit
  • Twitterbot
  • LinkedInBot

SEO araçları

  • AhrefsBot
  • SemrushBot

Sözdizimi ve site haritaları

  • Sitemap: https://ornek.com.tr/sitemap.xml

robots.txt Test Aracı ne işe yarar?

robots.txt, sitenizin hangi bölümlerinin hangi botlar tarafından taranabileceğini belirler. Tek bir hatalı satır bütün sitenizi Google'dan gizleyebilir. Bu araç dosyayı RFC 9309 standardına ve Google'ın uygulamasına göre ayrıştırır: en özel User-agent grubunu seçer, en uzun eşleşen kuralı bulur ve eşitlikte Allow'u öne alır.

Dosyayı sitenizden indirebilir ya da yayına almadan önce kendi taslağınızı yapıştırıp deneyebilirsiniz. Test tamamen tarayıcınızda çalışır.

Sık sorulan sorular

robots.txt bir sayfayı Google'dan kaldırır mı?
Hayır. robots.txt yalnızca taramayı engeller; başka sitelerden bağlantı alan bir adres içeriği okunmadan da dizine girebilir. Bir sayfayı dizinden çıkarmak için noindex meta etiketi ya da X-Robots-Tag başlığı kullanılır ve bu sayfa robots.txt ile engellenmemelidir.
Allow ve Disallow çakışırsa hangisi geçerli?
Adrese en uzun (en özel) eşleşen kural kazanır. Uzunluklar eşitse Google ve RFC 9309, daha az kısıtlayıcı olan Allow kuralını uygular.