# 通用规则 User-agent: * Allow: / Disallow: /404.html Disallow: /test-*.html Disallow: /*.bak* Disallow: /*.bak-* # 爬虫特定优化 User-agent: Googlebot Allow: / Crawl-delay: 0 User-agent: Baiduspider Allow: / Crawl-delay: 0 User-agent: Bingbot Allow: / Crawl-delay: 0 # Sitemap 位置 Sitemap: https://fangchengjm.com/sitemap.xml # 主机名规范化(避免重复内容) Host: https://fangchengjm.com