Soubor robots.txt

Soubor robots.txt je jednoduchý textový soubor umístěný na serveru vašeho webu, který vede webové roboty neboli boty k navigaci a procházení stránek vašeho webu.

Jako součást protokolu REP (Robots Exclusion Protocol) slouží primárně ke správě provozu z prohledávačů a k zabránění indexování konkrétních stránek nebo sekcí vašeho webu vyhledávači.

V tomto článku:

Hodnocení

Soubor robots.txt vašeho webu je automaticky generován a spravován společností Pixpa. Nelze jej upravovat ručně.

 


Důležitost souboru robots.txt

  • Kontrola nad webovými prohledávačiŘíká webovým robotům, které stránky mohou a nemohou navštívit, a pomáhá vám tak spravovat, jak vyhledávače vidí váš web.
  • Chraňte citlivé informaceMůže blokovat prohledávače v přístupu ke stránkám se soukromými nebo citlivými informacemi.
  • Optimalizace rozpočtu procházeníBlokováním nepodstatných stránek se vyhledávače zaměří na nejdůležitější části vašeho webu.
  • Zlepšení výkonu webuSnížení počtu procházených stránek může snížit zatížení serveru a zlepšit celkový výkon webu.
  • Zabraňte duplicitnímu obsahuPomáhá zabránit vyhledávačům v indexování duplicitního obsahu, což může zlepšit hodnocení vašeho webu ve vyhledávání.
  • Udržujte bezpečnost webuLze jej použít k blokování přístupu do administrativních a zabezpečených oblastí vašeho webu.
  • Vylepšete uživatelskou zkušenostSprávou přístupu prohledávačů zajišťujete, že uživatelé při vyhledávání vašeho webu najdou nejrelevantnější a nejdůležitější obsah.

Chcete-li otevřít soubor robots.txt vašeho webu, postupujte podle níže uvedených kroků:

  • Otevřete webový prohlížeč (například Chrome, Firefox nebo Safari).
  • Do adresního řádku zadejte URL adresu svého webu a poté řetězec „/robots.txt' (bez uvozovek).
  • Například pokud je URL adresa vašeho webu www.example.com, pak je třeba zadat www.example.com/robots.txt k otevření souboru.


Direktivy uvnitř souboru robots.txt

  • Uživatelský agent: Určuje webový prohledávač, na který se pravidla vztahují. Hvězdička (*) znamená, že pravidla platí pro všechny prohledávače.
  • neuznatŘíká prohledávačům, aby nepřistupovaly k určité URL cestě.
  • povolit: Přepíše Disallow direktiva pro povolení přístupu ke konkrétní URL cestě.
  • SitemapUrčuje umístění souboru Sitemap, který pomáhá vyhledávačům pochopit strukturu vašeho webu.

Nenašli jste, co jste hledali?

Spojte se s odborníkem Pixpa.