python爬虫之使用user-agent的注意事项-创新互联

这篇文章给大家分享的是有关python爬虫之使用user-agent的注意事项的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。

成都创新互联公司-专业网站定制、快速模板网站建设、高性价比鸡东网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式鸡东网站制作公司更省心,省钱,快速模板网站建设找我们,业务覆盖鸡东地区。费用合理售后完善,10余年实体公司更值得信赖。

我们在写爬虫,构建网络请求的时候,不可避免地要添加请求头( headers ),以 mdn 学习区为例,我们的请求头是这样的:

python爬虫之使用user-agent的注意事项

一般来说,我们只要添加 user-agent 就能满足绝大部分需求了,Python 代码如下:

import requests
 
headers = {
    #'authority': 'developer.mozilla.org',
    #'pragma': 'no-cache',
    #'cache-control': 'no-cache',
    #'upgrade-insecure-requests': '1',
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 YaBrowser/19.7.0.1635 Yowser/2.5 Safari/537.36',
    #'accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3',
    #'accept-encoding': 'gzip, deflate, br',
    #'accept-language': 'zh-CN,zh-TW;q=0.9,zh;q=0.8,en-US;q=0.7,en;q=0.6',
    #'cookie': 你的cookie,
}
 
response = requests.get('https://developer.mozilla.org/zh-CN/docs/learn', headers=headers)


但是有些请求,我们要把特定的 headers 参数添加上才能获得正确的网络响应,不知道哪个参数是必要的情况下,就要先把所有参数都添加上,再逐个排除。

但是手动复制粘贴 headers 字典里的每一个键值对太费事了。

感谢各位的阅读!关于python爬虫之使用user-agent的注意事项就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!

标题名称:python爬虫之使用user-agent的注意事项-创新互联
本文链接:https://www.cdcxhl.com/article4/pesie.html

成都网站建设公司_创新互联,为您提供网站改版标签优化虚拟主机定制开发GoogleChatGPT

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联

成都网页设计公司