User-agent: * Allow: / Disallow: /api/ Allow: /llms.txt Allow: /llms-full.txt # Указываем поисковикам на финальный домен (раньше стоял .pages.dev — preview-домен Cloudflare) Sitemap: https://jeeping-adygea.ru/sitemap.xml # --------------------------------------------------------------------- # Яндекс: основной поиск, картинки, реклама, Дзен, Алиса # --------------------------------------------------------------------- User-agent: Yandex Allow: / Disallow: /api/ Allow: /llms.txt Allow: /llms-full.txt # Яндекс.Картинки — отдельно (используется Алисой и поиском по картинкам) User-agent: YandexImages Allow: / # Яндекс.Директ — рекламная платформа (использует свои краулеры) User-agent: YandexDirect Allow: / # Яндекс.Дзен — контентная платформа (может подтягивать описания) User-agent: YandexZen Allow: / # Яндекс.Видео — поиск по видео User-agent: YandexVideo Allow: / # --------------------------------------------------------------------- # Google # --------------------------------------------------------------------- User-agent: Googlebot Allow: / Disallow: /api/ Allow: /llms.txt Allow: /llms-full.txt User-agent: Googlebot-Image Allow: / # Google AI training data (Bard / Gemini) — opt-in User-agent: Google-Extended Allow: / # --------------------------------------------------------------------- # AI-поисковики и ассистенты — явное приглашение # (спека llmstxt.org, GPTBot, Claude, Perplexity) # --------------------------------------------------------------------- User-agent: GPTBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: Claude-Web Allow: / User-agent: anthropic-ai Allow: / User-agent: PerplexityBot Allow: / User-agent: Perplexity-User Allow: / # Apple Intelligence / Siri User-agent: Applebot-Extended Allow: / # Common Crawl (используется многими AI-проектами) User-agent: CCBot Allow: / # Cohere AI User-agent: cohere-ai Allow: / # Meta AI (Llama и пр.) User-agent: Meta-ExternalAgent Allow: / # ByteDance (Doubao, TikTok AI) User-agent: Bytespider Allow: /