User-agent: * Allow: / # Administrace a autentizace — nemá co dělat ve výsledcích vyhledávání. Disallow: /admin Disallow: /auth/ # AI boti — řízeno ručně tady, ne přes Cloudflare "Managed robots.txt". # # Ten toggle je jen zapnuto/vypnuto pro všechny AI crawlery najednou, žádná # volba po jednotlivých botech. Rozlišujeme boty, co odpovídají uživatelům # v reálném čase (dotáhnou si stránku, aby z ní mohli citovat v živé # odpovědi) — pro ně je celý ten SEO/GEO aparát (structured data, llms.txt) # — od botů, co stránku jen sbírají do trénovacích dat modelu. Ty druhé # odmítáme, ty první pouštíme dovnitř za stejných podmínek jako Googlebot. User-agent: ClaudeBot Allow: / Disallow: /admin Disallow: /auth/ User-agent: GPTBot Allow: / Disallow: /admin Disallow: /auth/ User-agent: CCBot Disallow: / User-agent: Google-Extended Disallow: / User-agent: Applebot-Extended Disallow: / User-agent: meta-externalagent Disallow: / User-agent: Bytespider Disallow: / User-agent: Amazonbot Disallow: / # I povolení boti smějí obsah použít jen jako referenci/citaci, ne jako # trénovací data. Čerstvý, ne univerzálně podporovaný standard — proto # zůstávají explicitní Disallow výše jako tvrdší vynucení pro boty, co # Content-Signal nečtou. Content-Signal: ai-train=no, use=reference # Poznámka ke stránkám /strategic-consultation a /strategic-consultation-faq: # # Obě tu dřív měly Disallow. U obou to bylo špatně, pokaždé jinak. # # - `strategic-consultation` (dlouhý dotazník) má v tabulce rout # `noIndex: true`, takže vydává meta robots noindex. Zákaz procházení ale # znamená, že tu značku Google nikdy nepřečte — a URL, na kterou někde vede # odkaz, si pak může zaindexovat jen podle adresy, bez obsahu. Správně je # procházení povolit a nechat rozhodnout tu noindex značku. # # - `strategic-consultation-faq` má naopak `noIndex: false`, vlastní titulek # i popisek — je tedy určená k indexaci. Disallow jí to znemožňoval a # zároveň ji vyřazoval ze sitemapy. FAQ obsah přitom patří k tomu # nejlépe dohledatelnému, co web má. Sitemap: https://oldrichturner.cz/sitemap.xml # AI / LLM discovery helpers (non-standard, informational) # llms.txt: https://oldrichturner.cz/llms.txt # llms-full.txt: https://oldrichturner.cz/llms-full.txt