Soubor robots.txt je jednoduchý textový soubor umístěný na serveru vašeho webu, který vede webové roboty neboli boty k navigaci a procházení stránek vašeho webu.
Jako součást protokolu REP (Robots Exclusion Protocol) slouží primárně ke správě provozu z prohledávačů a k zabránění indexování konkrétních stránek nebo sekcí vašeho webu vyhledávači.
V tomto článku:
- Důležitost souboru robots.txt
- Zkontrolujte soubor robots.txt vašeho webu
- Direktivy souboru robots.txt
Důležitost souboru robots.txt
- Kontrola nad webovými prohledávačiŘíká webovým robotům, které stránky mohou a nemohou navštívit, a pomáhá vám tak spravovat, jak vyhledávače vidí váš web.
- Chraňte citlivé informaceMůže blokovat prohledávače v přístupu ke stránkám se soukromými nebo citlivými informacemi.
- Optimalizace rozpočtu procházeníBlokováním nepodstatných stránek se vyhledávače zaměří na nejdůležitější části vašeho webu.
- Zlepšení výkonu webuSnížení počtu procházených stránek může snížit zatížení serveru a zlepšit celkový výkon webu.
- Zabraňte duplicitnímu obsahuPomáhá zabránit vyhledávačům v indexování duplicitního obsahu, což může zlepšit hodnocení vašeho webu ve vyhledávání.
- Udržujte bezpečnost webuLze jej použít k blokování přístupu do administrativních a zabezpečených oblastí vašeho webu.
- Vylepšete uživatelskou zkušenostSprávou přístupu prohledávačů zajišťujete, že uživatelé při vyhledávání vašeho webu najdou nejrelevantnější a nejdůležitější obsah.
Zkontrolujte soubor robots.txt vašeho webu
Chcete-li otevřít soubor robots.txt vašeho webu, postupujte podle níže uvedených kroků:
- Otevřete webový prohlížeč (například Chrome, Firefox nebo Safari).
- Do adresního řádku zadejte URL adresu svého webu a poté řetězec „/robots.txt' (bez uvozovek).
- Například pokud je URL adresa vašeho webu www.example.com, pak je třeba zadat www.example.com/robots.txt k otevření souboru.

Direktivy uvnitř souboru robots.txt
- Uživatelský agent: Určuje webový prohledávač, na který se pravidla vztahují. Hvězdička (
*) znamená, že pravidla platí pro všechny prohledávače. - neuznatŘíká prohledávačům, aby nepřistupovaly k určité URL cestě.
- povolit: Přepíše
Disallowdirektiva pro povolení přístupu ke konkrétní URL cestě. - SitemapUrčuje umístění souboru Sitemap, který pomáhá vyhledávačům pochopit strukturu vašeho webu.