# https://stp-terrassement.com/robots.txt # Tout est ouvert au crawl. Les pages a ne pas indexer portent une balise # robots noindex dans le HTML : elles doivent rester crawlables pour que # les moteurs puissent lire cette balise. User-agent: * Allow: / # Moteurs de reponse IA : explicitement les bienvenus. # Les guides de prix sont ecrits pour etre cites. User-agent: GPTBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: OAI-SearchBot Allow: / User-agent: ClaudeBot Allow: / User-agent: Claude-User Allow: / User-agent: PerplexityBot Allow: / User-agent: Google-Extended Allow: / User-agent: Applebot-Extended Allow: / User-agent: Bingbot Allow: / User-agent: CCBot Allow: / User-agent: Amazonbot Allow: / User-agent: meta-externalagent Allow: / User-agent: Diffbot Allow: / User-agent: cohere-ai Allow: / User-agent: YouBot Allow: / User-agent: Timpibot Allow: / # Resume du site pour les LLM : https://stp-terrassement.com/llms.txt Sitemap: https://stp-terrassement.com/sitemap.xml