Robots.txt dosyası, web sitenizin sunucusunda bulunan ve web tarayıcılarına veya botlara sitenizin sayfalarında nasıl gezinileceği ve taranacağı konusunda rehberlik eden basit bir metin dosyasıdır.
Robot Hariç Tutma Protokolü'nün (REP) bir parçası olarak, öncelikle tarayıcı trafiğini yönetmeye ve sitenizin belirli sayfa veya bölümlerinin arama motorları tarafından dizine eklenmesini önlemeye yarar.
Bu makalede:
robots.txt'nin önemi
- Web Tarayıcıları Üzerinden Kontrol: Web tarayıcılarına hangi sayfaları ziyaret edebileceklerini ve ziyaret edemeyeceklerini söyleyerek, arama motorlarının sitenizi nasıl gördüğünü yönetmenize yardımcı olur.
- Hassas Bilgileri Koruyun: Tarayıcıların özel veya hassas bilgiler içeren sayfalara erişmesini engelleyebilir.
- Tarama Bütçesini Optimize Edin: Gerekli olmayan sayfaları engelleyerek arama motorlarının sitenizin en önemli bölümlerine odaklanmasını sağlar.
- Site Performansını Artırın: Taranan sayfa sayısını azaltmak, sunucu yükünü azaltabilir ve genel site performansını iyileştirebilir.
- Yinelenen İçeriği Önleyin: Arama motorlarının yinelenen içeriği dizine eklemesini önlemeye yardımcı olur, bu da sitenizin arama sıralamasını iyileştirebilir.
- Site Güvenliğini Koruyun: Sitenizin idari ve güvenli alanlarına erişimi engellemek için kullanılabilir.
- Kullanıcı Deneyimini Geliştirin: Tarayıcı erişimini yöneterek kullanıcıların sitenizi aradıklarında en alakalı ve önemli içeriği bulmasını sağlar.
Web sitenizin robots.txt dosyasını kontrol edin
Web sitenizin robots.txt dosyasını açmak için aşağıda belirtilen adımları izleyin:
- Web tarayıcınızı açın (Chrome, Firefox veya Safari gibi).
- Adres çubuğuna web sitenizin URL'sini yazın ve ardından '/robots.txt' (tırnak işareti olmadan).
- Örneğin, web sitenizin URL'si www.example.com ise yazmanız gerekir. www.example.com/robots.txt dosyayı açmak için.

robots.txt içindeki yönergeler
- Kullanıcı aracısı: Kuralların geçerli olduğu web tarayıcısını belirtir. Bir yıldız işareti (
*) kuralların tüm tarayıcılar için geçerli olduğu anlamına gelir. - izin vermemek: Tarayıcılara belirli bir URL yoluna erişmemelerini söyler.
- izin vermek: Bir'i geçersiz kılar
DisallowBelirli bir URL yoluna erişime izin veren yönerge. - Site Haritası: Arama motorlarının sitenizin yapısını anlamasına yardımcı olan site haritası dosyasının konumunu belirtir.