Robots.txt Doğrulayıcı
Geçerli robots.txt dosyanızı doğrulayın, tarayıcılar için kısıtlama ve erişilebilirlik sayfasını kontrol edin.
Enter the URL in the format: https://example.com/
Enter the URL in the format: https://example.com/
Robots.txt Denetleyicisi, robots.txt dosyasının Google tarayıcılarını sitenizdeki belirli URL'lerden engelleyip engellemediğini gösterir. Örneğin, Googlebot tarayıcının Google Arama'da engellemek istediğiniz içeriğin URL'sini tarayıp tarayamayabileceğini kontrol etmek için bu aracı kullanabilirsiniz.
Web sitenizin kök dizininde bir robots.txt dosyası yoksa, arama motoru tarayıcıları onu bulamaz. Sonuç olarak, sitenizin tamamını taramalarına izin verildiğini varsayacaklar.
Google 500 KB (KB) robots.txt dosya boyutu sınırı uygular. Maksimum dosya boyutunu aşan içerik yok sayılır. Robotların boyutunu azaltabilirsiniz.
Web sitesi için Robots.txt gerekli değildir. Bir bot sitenizi ziyaret ederse ve bir tane yoksa, sitenizi tarar ve sayfaları her zamanki gibi dizine ekler. Robots.txt yalnızca taranan şey üzerinde daha fazla kontrol istiyorsanız gereklidir.