本篇内容主要讲解“Python怎么爬取微信公众号文章、标题、文章地址”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Python怎么爬取微信公众号文章、标题、文章地址”吧!
让客户满意是我们工作的目标,不断超越客户的期望值来自于我们对这个行业的热爱。我们立志把好的技术通过有效、简单的方式提供给客户,将通过不懈努力成为客户在信息化领域值得信任、有价值的长期合作伙伴,公司提供的服务项目有:空间域名、网页空间、营销软件、网站建设、古丈网站维护、网站推广。
本文的文字及图片过滤网络,可以学习,交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
Python爬虫、数据分析、网站开发等案例教程视频免费在线观看
https://space.bilibili.com/523606542
Python 3.6
皮查姆
1,爬取青灯编程公众号所有的文章
2,爬取所有关于python的公众号文章
1,登陆公众号之后点击图文
3,点击超链接
相关的数据加载出来,就有关于数据包,包含了文章标题,链接,摘要,发布时间等等,也可以选择其他的公众号也可以爬取的,但是这需要你有一个微信公众号。
要加cookie
import pprint import time import requests import csv f = open('青灯公众号文章.csv', mode='a', encoding='utf-8', newline='') csv_writer = csv.DictWriter(f, fieldnames=['标题', '文章发布时间', '文章地址']) csv_writer.writeheader() for page in range(0, 40, 5): url = f'https://mp.weixin.qq.com/cgi-bin/appmsg?action=list_ex&begin={page}&count=5&fakeid=&type=9&query=&token=1252678642&lang=zh_CN&f=json&ajax=1' headers = { 'cookie': '加cookie', 'referer': 'https://mp.weixin.qq.com/cgi-bin/appmsg?t=media/appmsg_edit_v2&action=edit&isNew=1&type=10&createType=0&token=1252678642&lang=zh_CN', 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36', } response = requests.get(url=url, headers=headers) html_data = response.json() pprint.pprint(response.json()) lis = html_data['app_msg_list'] for li in lis: title = li['title'] link_url = li['link'] update_time = li['update_time'] timeArray = time.localtime(int(update_time)) otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray) dit = { '标题': title, '文章发布时间': otherStyleTime, '文章地址': link_url, } csv_writer.writerow(dit) print(dit)
1,搜狗搜索python选择微信
注意:如果不登陆只能爬取前十页数据,登陆之后可以爬取2W多篇文章。
2,爬取标题,公众号,文章地址,发布时间静态网页直接爬取即可
import time import requests import parsel import csv f = open('公众号文章.csv', mode='a', encoding='utf-8', newline='') csv_writer = csv.DictWriter(f, fieldnames=['标题', '公众号', '文章发布时间', '文章地址']) csv_writer.writeheader() for page in range(1, 2447): url = f'https://weixin.sogou.com/weixin?query=python&_sug_type_=&s_from=input&_sug_=n&type=2&page={page}&ie=utf8' headers = { 'Cookie': '自己的cookie', 'Host': 'weixin.sogou.com', 'Referer': 'https://www.sogou.com/web?query=python&_asf=www.sogou.com&_ast=&w=01019900&p=40040100&ie=utf8&from=index-nologin&s_from=index&sut=1396&sst0=1610779538290&lkt=0%2C0%2C0&sugsuv=1590216228113568&sugtime=1610779538290', 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36', } response = requests.get(url=url, headers=headers) selector = parsel.Selector(response.text) lis = selector.css('.news-list li') for li in lis: title_list = li.css('.txt-box h4 a::text').getall() num = len(title_list) if num == 1: title_str = 'python' + title_list[0] else: title_str = 'python'.join(title_list) href = li.css('.txt-box h4 a::attr(href)').get() article_url = 'https://weixin.sogou.com' + href name = li.css('.s-p a::text').get() date = li.css('.s-p::attr(t)').get() timeArray = time.localtime(int(date)) otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray) dit = { '标题': title_str, '公众号': name, '文章发布时间': otherStyleTime, '文章地址': article_url, } csv_writer.writerow(dit) print(title_str, name, otherStyleTime, article_url)
到此,相信大家对“Python怎么爬取微信公众号文章、标题、文章地址”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
网站名称:Python怎么爬取微信公众号文章、标题、文章地址
本文网址:https://www.cdcxhl.com/article32/pgejpc.html
成都网站建设公司_创新互联,为您提供网页设计公司、商城网站、营销型网站建设、定制开发、网站设计公司、企业建站
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联