网站改版带来的404抓取错误解决实践

网站制作中一项重要的工作就是改版，每次改版肯定是往好的方面进行，因为每个阶段的定位不同，我们要网站所表现的企业形象也不同，而且一个好看大气的网站绝对能够在潜在客户心里提升我们公司的地位。但是多数的改版对于我们网站的SEO都会造成一定的影响，这里就需要我们对网站的情况掌握的非常熟悉之后，然后进行有效地控制，减少改版造成的404页面过多情况。

1、利用日志分析工具找到404错误抓取页面

日志分析工具利用最常用的光年日志分析工具就可以了，首先利用FTP下载好最近几天的网站LOG日志，当然，想更多的分析，那么多下载一段时间的LOG日志也可以，利用日志分析工具新建任务分析各个阶段的百度蜘蛛抓取情况，这里主要考虑百度抓取情况，因为建立这个分析工作的前提是快照停滞，收录为 1。这里建议大家分为三个时间段来分析：

a、分析最近一天的LOG日志，可以是今天的，但是最好是昨天的，因为昨天的会比较全，今天的你即使是晚上来分析也会有一部分时间没有统计到。

B、分析改版之后的LOG日志，因为这涉及到百度蜘蛛对于网站改版的一些判断，例如我们可以分析百度蜘蛛什么时候开始判断网站已经改版，或者什么时候已经放弃对于旧站URL的抓取等等。

C、改版前后抓取量的对比，分析改版对于百度蜘蛛的抓取量影响多大。

至于日志分析工作后面的分析工作都是一键式的，具体的分析思路有了之后，我们对照着进行分析，就会找到很多平时我们没有注意到的问题，例如下面出来改版造成的404页面，还有不少的页面也是404错误，我并没有意识到，例如下面的wp-login.php页面就是一个最典型的例子：404错误抓取页面

2、利用百度站长工具中的死链提交工具进行死链提交

百度站长平台LEE团队说：404状态码代表‘NotFound’，spider更新时会认为该页面已失效，此时呢将在索引库中删除，短期内spider再次发现该url不再会抓取。当然，百度的说法只能作参考，因为分析网站日志发现，2个多星期百度蜘蛛还是来抓取这些错误页面，当然，百度对于404错误页面的指导性操作，还是非常有针对性的。百度站长平台对404页面的看法特别是死链提交工具中提交死链sitemap，这一条大家可以根据自身的情况进行死链提交，我这边提交后暂时还没有大的效果，因为大家都知道百度的效果展现周期一般都比较长。

3、利用robots.txt和nofollow标签引导蜘蛛抓取

404错误页面一个大的坏处就是给蜘蛛带来一些错误的抓取，浪费了蜘蛛抓取资源，举个例子，首先我们要达成这样的一个共识：任何一个网站的蜘蛛抓取访问资源都是有限的，小网站自然要少很多，而大网站就要多很多，要想蜘蛛抓取率更高，抓取的更合理，那么一些错误的链接造成的404错误量就要尽可能的减少。

当前文章：网站改版带来的404抓取错误解决实践
文章起源：https://www.cdcxhl.com/news10/132860.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有网站改版等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联