网站建设，[SEO优化]如何防止假蜘蛛抓取内容?

2022-12-20 分类：网站建设

高频率发布原创内容的网站很容易遭到虚假百度蜘蛛的攻击，以窃取网站原创内容!那么怎么分辨真假百度蜘蛛呢?分辨后又怎么去禁止虚假百度蜘蛛偷取网站内容呢?

一、什么是假蜘蛛?

搜索引擎爬虫我们称之为蜘蛛，假蜘蛛即伪装成搜索引擎的爬虫。目的就是掩人耳目的去爬取采集网站的内容。

普通的爬虫很容易被站点发现屏蔽，对于搜索引擎蜘蛛站点都是没什么警惕心，希望多来抓取可以有效增加收录量和速度。

二、如何鉴别假蜘蛛

网站日志会记录所有访问ip的请求头即user-agent,通过修改蜘蛛的请求头为搜索引擎公布的蜘蛛的UA名。

因此，我们光看日志是无法直接辨别真假蜘蛛的。大多数搜索引擎都是ip反查，比如我们通过windows电脑cmd中使用nslookp反查蜘蛛的ip能够获取到对应搜索引擎解析的为真蜘蛛，在这种方法下假蜘蛛无法遁形。

但是问题是如果不能事实鉴别假蜘蛛，内容被采集走了在屏蔽也失去了意义。

三、如何防止假蜘蛛抓取内容?

1、添加蜘蛛白名单

有些蜘蛛无法支持反查，我们可以把这类蜘蛛的ip段添加白名单，同时我们对于网站反查到的蜘蛛ip经过人工确定之后，也同样加入白名单。可以防止程序出错时误屏蔽蜘蛛，以及加快程序的响应速度。

2、原创保护防采集

对于其他的爬虫我们还是需要去检测同一个ip是否有大段时间大量访问的行为，对于异常ip我们可以使用验证码等方式验证，这也是基于我们拥有了通过ip鉴别蜘蛛的前提下，可以避免误伤搜索引擎的抓取任务采集。

只要你的内容可以显示就可以有办法采集，要想完全避免是不可能的，是双方之间的一场博弈。

以上就是《[SEO优化]如何防止假蜘蛛抓取内容?》的全部内容，仅供站长朋友们互动交流学习，SEO优化是一个需要坚持的过程，希望大家一起共同进步。

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有网站建设等

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源：创新互联

猜你还喜欢下面的内容