网站优化之百度Spider识别和抓取

网站想要有良好的排名就必须做好优化，做好优化的第一步是要能够快速和尽可能多的收录自己网站的内容，那么问题来了，怎么才能收录的更好呢？首先第一步先认识百度蜘蛛吧。

Baiduspider是百度搜索引擎的一个自动程序，它的作用是访问互联网上的网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站上的网页。

怎么才能识别正确的百度蜘蛛呢？来来来，只需两步，教你正确识别百度蜘蛛：

1.查看UA，如果UA都不对，可以直接判断非百度搜索的蜘蛛，目前对外公布过的UA是：

移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

2.查看IP
查看日志根据ip来判断是否来自Baiduspider的抓取，Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即为冒充。
目前百度Spider抓取新链接的途径有两个，一是主动出击发现抓取，二就是从百度站长平台的链接提交工具中获取数据，其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。对于站长来说，如果链接很长时间不被收录，建议尝试使用主动推送功能，尤其是新网站，主动推送首页数据，有利于内页数据的抓取。

那么同学们要问了，为什么我提交了数据还是迟迟在线上看不到展现呢？那涉及的因素可就多了，在Spider抓取这个环节，影响线上展现的因素有：

1、网站封禁。你别笑，真的有同学一边封禁着百度蜘蛛，一边向百度狂交数据，结果当然是无法收录。

2、质量筛选。百度Spider进入3.0后，对低质内容的识别上了一个新台阶，尤其是时效性内容，从抓取这个环节就开始进行质量评估筛选，过滤掉大量过度优化等页面，从内部定期数据评估看，低质网页比之前下降62%。

3、抓取失败。抓取失败的原因很多，有时你在办公室访问完全没有问题，百度spider却遇到麻烦，站点要随时注意在不同时间地点保证网站的稳定性。

4、配额限制。虽然我们正在逐步放开主动推送的抓取配额，但如果站点页面数量突然爆发式增长，还是会影响到优质链接的抓取收录，所以站点在保证访问稳定外，也要关注网站安全，防止被黑注入。