Araçlarımız robotlara kapalı, size açık.
Robot olmadığımı doğrula
Deneyin: kutuya tıklayınca tarayıcınız bulmacayı çözer.
Dört katmanlı koruma
1. İş kanıtı (proof-of-work)
Sunucu imzalı bir bulmaca gönderir: SHA-256(tuz + n) değeri verilen özeti tutan n sayısını bulun. Tarayıcınız bunu Web Worker'larda arka planda çözer; sunucu tek bir hesaplamayla doğrular. Bulmacalar 5 dakika geçerli ve tek kullanımlıktır.
2. Uyarlanan zorluk
Son 10 dakikada aynı adresten istenen bulmaca sayısı arttıkça zorluk 40 katına kadar çıkar. Bir insan için fark edilmez; binlerce istek gönderen bir bot için maliyet hızla büyür.
3. Kota ve eşzamanlılık
SEO analizi için dakikada 6, saatte 40; diğer araçlar için dakikada 20 istek. Aynı anda en fazla 2 analiz. Doğrulama 30 dakika ve 80 istekle sınırlıdır.
4. Tarayıcı denetimi
İstekler yalnızca bu sitenin sayfalarından (aynı köken) kabul edilir. curl, python, headless tarayıcı gibi otomasyon kimlikleri ve gizli tuzak (honeypot) alanını dolduran formlar reddedilir.
Analiz isteklerimiz sitenize nasıl gelir?
Bir kullanıcı sitenizi analiz ettiğinde sunucumuz sayfayı bir kez indirir. Kendi kendine tarama (crawl) yapmayız; her istek bir kullanıcının o anki talebidir ve sonuç saklanmaz.
Tek bir SEO analizi sitenize yaklaşık şu istekleri gönderir:
- Sayfanın kendisi (bir tarayıcı, bir Googlebot kimliğiyle)
- robots.txt, site haritası ve site simgesi
- Rastgele adlı olmayan bir sayfa (404 davranışı için)
- http:// ve www / www'suz adres varyantları
- Sayfadaki en fazla 45 bağlantıya HEAD isteği
İstekler yalnızca 80 ve 443 portlarına, genel internet adreslerine gider; iç ağ adresleri güvenlik nedeniyle hiçbir zaman çağrılmaz.
User-Agent
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/141.0.0.0 Safari/537.36 ArSoftSEO/1.0 (+https://arsoftbilisim.net/robot-korumasi)
Robot simülatörü ve Googlebot karşılaştırmasında ilgili botun kimliği kullanılır.
Engellemek isterseniz
# nginx
if ($http_user_agent ~* "ArSoftSEO") { return 403; }
# Apache (.htaccess)
RewriteCond %{HTTP_USER_AGENT} ArSoftSEO [NC]
RewriteRule .* - [F,L]Sorun bildirmek için .
Robot Kalkanı hakkında
Neden resim seçtiren bir doğrulama (CAPTCHA) kullanmıyorsunuz?
Doğrulama ne kadar sürer, telefonumu yorar mı?
Doğrulama ne kadar geçerli?
PDF, görsel ve hesaplama araçlarında neden doğrulama yok?
Sitemin analiz edilmesini istemiyorum, ne yapabilirim?
Kişisel veriler hakkında ayrıntı için gizlilik metnine bakın.
