网站用户与搜索引擎蜘蛛的区别

2020-01-30    分类: 网站建设

所有的全文搜索引擎都表示自己的Spider对网站的抓取行为和网站用户的访问行为没有太大区别,站在网站用户的角度这句话的确没有问题,但是站在站长和SEO的角度这句话就不太对了。网页上有很多东西网站用户看不到也分辨不清,但是Spider可以;网页上也有很多东西网站用户可以看到并分辨清楚,但是Spider不可以。可以说Spider是一个既聪明又弱智的网站用户,Spider有着网站用户访问行为的大部分特性,但是也有不少差异。
1、Spider可以分辨出网页中是否有隐藏内容,是否被挂了黑链等,但是不能完全了解网页中图片的内容,更不能读取JavaScript、Iframe、Ajax和Flash中的内容,网站用户却是恰恰相反;
2、Spider没有Referer,对网站的抓取全部都是直接访问,而网站用户中除了直接访问的用户外一般都是有Referer的;
3、Spider对网站的访问没有Cookie,但是网站用户是有的;
4、Spider不会主动注册登入网站,但是网站用户是可以的;原则上Spider不会抓取和分析网站robots中已经屏蔽的内容,但是网站用户是可以正常访问的;
5、Spider对于有多个动态参数网站的抓取,可能会陷入死循环,但是网站用户是不会的;
6、Spider对于列表中前几页的新内容抓取可能不好,但是感兴趣的网站用户会依次浏览;
7、Spider暂时还不能真正判断文章是不是原创,但是网站用户可以通过多种方式来确定文章是原创还是采集转载等。
Spider毕竟是人为技术驱动的程序,与网站用户还是有着非常大的区别的,因此给了站长和SEO人员很大的操作空间。站长和SEO人员在充分了解到Spider和网站用户的区别后,可以更方便地优化网站,使得网站内容被充分抓取,网站整体在搜索引擎中有个良好的表现;同时也可以利用两者的区别,使得在不影响搜索引擎抓取和排名的情况下,给网站用户更友好的用户体验,比如,判断用户Referer给用户推荐内容等;当然,不排除有些站长和SEO人员会利用这些区别,采用很多极端的技术作弊手法,在网站用户感觉不到的地方,误导Spider对网站内容的判断,而恶意抢夺很多本不应该得到的搜索流量,这是不可取的。无论如何,都有必要深入了解两者的差异。

网页题目:网站用户与搜索引擎蜘蛛的区别
URL标题:https://www.cdcxhl.com/news43/81293.html

成都网站建设公司_创新互联,为您提供定制网站关键词优化响应式网站建站公司App开发营销型网站建设

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联

商城网站建设