小编给大家分享一下使用python爬虫怎么处理有密码的网站,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
创新互联公司2013年至今,先为太子河等服务建站,太子河等地企业,进行企业商务咨询服务。为太子河企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。
步骤一:查看要爬取的网站信息
进入登录页面 。你会看到如下图所示的页面。
然后进行查看元素,查看到name、password,最终我们得到以下内容
payload = { "username": "<USER NAME>", "password": "<PASSWORD>", "csrfmiddlewaretoken": "<CSRF_TOKEN>" }
步骤二、配置网站登录设置
创建一个登录对象。
session_requests = requests.session()
设置一个登录的url
result = session_requests.post( login_url, data = payload, headers = dict(referer=login_url) )
步骤三、爬取信息内容
到了这个步骤,我们已经成功进行登录了,用以下方式进行爬取:
url = '链接' result = session_requests.get( url, headers = dict(referer = url) )
以上是“使用python爬虫怎么处理有密码的网站”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!
当前文章:使用python爬虫怎么处理有密码的网站
本文网址:https://www.cdcxhl.com/article28/peidjp.html
成都网站建设公司_创新互联,为您提供小程序开发、服务器托管、网站改版、网站内链、自适应网站、软件开发
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联