用户工具

站点工具


wordpressadvance:robots_sitemap

robots.txt 和 Sitemap

搜索引擎爬虫(蜘蛛)进入网站都是先看网站的 robots.txt 文件,以确认哪些是允许抓取和不允许抓取的,然后爬虫就会先从sitemap(网站地图)开始检索内容。

robots.txt

Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。

搜索引擎机器人访问网站时,首先会寻找站点根目录有没有 robots.txt 文件,如果有这个文件就根据文件的内容确定收录范围,如果没有就按默认访问以及收录所有页面。另外,当搜索蜘蛛发现不存在 robots.txt 文件时,会产生一个404错误日志在服务器上,从而增加服务器的负担,因此为站点添加一个robots.txt文件还是很重要的。

比较完整的WordPress站点robots.txt文件内容如下:

robots.txt
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /*/comment-page-*
Disallow: /*?replytocom=*
Disallow: /category/*/page/
Disallow: /tag/*/page/
Disallow: /*/trackback
Disallow: /feed
Disallow: /*/feed
Disallow: /comments/feed
Disallow: /?s=*
Disallow: /*/?s=*\
Disallow: /*?*
Disallow: /attachment/

使用方法:将以上文件下载,上传到网站根目录即可,当然,你应当根据自己网站的实际作一些必要的修改。

下面分别解释一下各项的作用:

  • 1、Disallow: /wp-admin/、Disallow: /wp-content/和Disallow: /wp-includes/
  • 用于告诉搜索引擎不要抓取后台程序文件页面。
  • 2、Disallow: /*/comment-page-*和Disallow: /*?replytocom=*
  • 禁止搜索引擎抓取评论分页等相关链接。
  • 3、Disallow: /category/*/page/和Disallow: /tag/*/page/
  • 禁止搜索引擎抓取收录分类和标签的分页。
  • 4、Disallow: /*/trackback
  • 禁止搜索引擎抓取收录trackback等垃圾信息
  • 5、Disallow: /feed、Disallow: /*/feed和Disallow: /comments/feed
  • 禁止搜索引擎抓取收录feed链接,feed只用于订阅本站,与搜索引擎无关。
  • 6、Disallow: /?s=*和Disallow: /*/?s=*\
  • 禁止搜索引擎抓取站内搜索结果
  • 7、Disallow: /*?*
  • 禁止搜索抓取动态页面
  • 8、Disallow: /attachment/
  • 禁止搜索引擎抓取附件页面,比如毫无意义的图片附件页面。

Sitemap 网站地图

可以使用 Yoast SEO 生成网站地图,我们可以看一下这里:https://www.junbro.com/sitemap_index.xml

它是一个 XML 格式文件,有了网站地图,就可以去 GOOGLE和百度站长管理里提交网站地图,以便搜索引擎尽快抓取收录我们的网站。

同时,我们应当把这个网站地图链接放在 robots.txt 最后一行。如下:

robots.txt
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /*/comment-page-*
Disallow: /*?replytocom=*
Disallow: /category/*/page/
Disallow: /tag/*/page/
Disallow: /*/trackback
Disallow: /feed
Disallow: /*/feed
Disallow: /comments/feed
Disallow: /?s=*
Disallow: /*/?s=*\
Disallow: /*?*
Disallow: /attachment/
 
Sitemap: http://www.你的域名.com/sitemap_index.xml

评论

请输入您的评论. 可以使用维基语法:
F H E E J
 
wordpressadvance/robots_sitemap.txt · 最后更改: 2017/01/29 20:38 由 Tony