在搜索引擎工作的爬行和抓取、预处理、排名这三个环节中，搜索引擎蜘蛛负责第一个环节的工作，可以说是搜索引擎中最关键的角色。那么在SEO工作中，我们应该给予搜索引擎蜘蛛足够的重视，以最大程度吸引蜘蛛的来访。
在对网站进行SEO优化时会涉及到以下跟蜘蛛有关的概念：
1.爬取率：既定时间内网站被蜘蛛获取的页面数量。
2.爬取频率：搜索引擎多久对网站或单个网页发起一次新的爬行。
3.爬取深度：一个蜘蛛从开始位置可以点击到多深。
4.爬取饱和度：唯一页面被获取的数量。
5.爬取优先：那些页面最常作为蜘蛛的入口。
6.爬取冗余度：网站一般被多少蜘蛛同时爬取。
7.爬取mapping：蜘蛛爬取路径还原。
知道了这几个概念之后，我们来看看怎样在SEO工作中利用这几个概念。
一、分析爬取率
分析搜索引擎蜘蛛首先会考虑的一个参数就是爬取量，一般我们考虑蜘蛛爬取量的单位是以一天为一个时间段，那么我们很多时候考虑的就是一天时间内的爬取率。当然，你也可以根据自己的需要调整时间段的限定，如划分到每个小时，来充分了解各个时间段的蜘蛛的抓取情况，然后针对性的做一些调整。其中我觉得分析可以给我们带来很多的成就感，可以验证我们长期积累下来的经验是否正确。
例如我们经常听到这样一句话：“做网站内容的时候要定时定量的更新，培养搜索引擎蜘蛛的抓取习惯，随意的改变更新时间，可能影响蜘蛛对网站内容的抓取”，这句话到底正确不正确呢?这里就可以运用网站的日志进行分析搜索引擎蜘蛛的抓取率来解释。
具体的操作方法就是对一个月内每天每个小时段的蜘蛛抓取情况进行拆分统计(注意数据样本选取的合理性)，然后对每个时间段进行分析，对比就可以发现哪个时间段搜索引擎蜘蛛来的比较勤，再和自己做内容更新的情况进行一个对比就可以很快的得出结论。
二、提高爬取频率
搜索引擎蜘蛛的爬取频率很多时候是由网站内容质量决定的，因为只有网站有更新鲜更好的内容，才能更吸引蜘蛛来反复抓取，例如很多大型的内容型网站，每天更新大量的内容，这样就把蜘蛛一直留在了站内，页面抓取的频率自然会提高。而提升了爬取频率，对于页面中内容和链接的更新就会被搜索引擎蜘蛛更快的抓取到，能够更充分的收录网站的页面内容信息。
很多朋友都说自己的网站快照不更新，或者滞后好几天，个人觉得也是蜘蛛抓取的频率不够造成的。要想快照更新快，特别是新站，前期一定要多做内容建设，内容页面如果没有内容的更新，一般蜘蛛可能不会抓取收录，或者抓取了但是不返回数据，当下次用户搜索时候可能就会调用搜索引擎数据库中存储的一些数据。
三、研究蜘蛛爬取习惯
搜索引擎蜘蛛的爬取深度如果不够深，主要是因为网站在结构布局的时候没有考虑到这蜘蛛是否能够充分抓取或者是否按照一层一层的抓取，这里就涉及到链接入口的布局，也就会考虑到蜘蛛爬取优先的一些入口，很多时候对一些大的网站做诊断，来提升其流量和收录主要的策略布局就是优化蜘蛛抓取优先的入口，实现的方法就是采用nofollow标签屏蔽一些页面。还需要分析的可能是爬取的饱和度，因为对于单个页面的爬取太多是在浪费蜘蛛资源，我们如果能够适当的控制这些资源的分配，那么对于页面的抓取和收录的提升肯定有很大的帮助。
