首页 文章 精选 留言 我的

精选列表

搜索[镜像无法拉取],共10000篇文章
优秀的个人博客,低调大师

pyhton爬取爱豆(李易峰)微博评论

今日目标:微博,以李易峰的微博为例: ```python https://weibo.com/liyifeng2007?is_all=1 ``` 然后进入评论页面,进入XHR查找真是地址: ```python https://weibo.com/aj/v6/comment/big?ajwvr=6&id=4353796790279702&from=singleWeiBo ``` 很明显,是动态的,抓取也是按我以前写的那些方法来,就不一一说了,他这里最重要的还是那串数字,所以我们只要在第一个网址哪里把那串数字找出来就算成功一半了,这次需要用到re正则,嗯,这个我不擅长,不过没事,应该还是可以搞到的: ```python target = 'https://weibo.com/liyifeng2007?is_all=1' headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.83 Safari/537.36', 'cookie': 'SUB=_2AkMowDDgf8NxqwJRmPoSyWnqao53ywzEieKenME7JRMxHRl-yT9kqnEjtRB6A0AeDzsLF_aeZGlWOMf4mEl-MBZZXqc_; SUBP=0033WrSXqPxfM72-Ws9jqgMF55529P9D9WWcpq860VQlJcIRRNP9pzqS; SINAGLOBAL=1033839351635.7524.1604108279474; login_sid_t=c071efc77911ceace152df2be5986e09; cross_origin_proto=SSL; WBStorage=8daec78e6a891122|undefined; _s_tentry=-; Apache=8275565331127.246.1604195643561; ULV=1604195643568:3:1:1:8275565331127.246.1604195643561:1604122447982; wb_view_log=1920*10801; UOR=,,editor.csdn.net' } html = requests.get(target,headers=headers).text for each in re.findall('(.*?)<\/div>',res) foreachinconmment: #将内容里的那些表情替换 each=re.sub('<.*?>','',each) print(each) ``` re 不太会用,大家将就着看,主要是能把数据搞到手,这个最重要,哈哈… ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9tV0ZVTk1CV3ppYkxWRHY5ZzVFeDkzSDdEYUM5a05iV3hHUEFhaWMxN1pKalpnb2toN1ZNU0V2UUQwNzhmUWxtUXJZb1lSMjdvUXU4SHV0akFNRnl3TDJ3LzY0MA?x-oss-process=image/format,png) 对比一下: ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9tV0ZVTk1CV3ppYkxWRHY5ZzVFeDkzSDdEYUM5a05iV3gzazhQOXFvVWN4UVNmQ3o2VVlMOE9yYWtxVG5nWVlSTlE4ZndVVUhsaWJNSFRtYW1yV1FiTEJnLzY0MA?x-oss-process=image/format,png) 把那些表情给去除了,有些只发表情没法字的就会只显示名字,这个是正常的,其余就是一毛一样了。 数据拿到了,咱们就存储到本地吧,全部代码: ```python # -*- coding: utf-8 -*- """ Created on 2020-11-18 @author: 李运辰 """ #https://weibo.com/liyifeng2007?is_all=1 import requests import re,os url = 'https://s.weibo.com/?topnav=1&wvr=6' target = 'https://weibo.com/liyifeng2007?is_all=1' headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.83 Safari/537.36', 'cookie': 'SUB=_2AkMowDDgf8NxqwJRmPoSyWnqao53ywzEieKenME7JRMxHRl-yT9kqnEjtRB6A0AeDzsLF_aeZGlWOMf4mEl-MBZZXqc_; SUBP=0033WrSXqPxfM72-Ws9jqgMF55529P9D9WWcpq860VQlJcIRRNP9pzqS; SINAGLOBAL=1033839351635.7524.1604108279474; login_sid_t=c071efc77911ceace152df2be5986e09; cross_origin_proto=SSL; WBStorage=8daec78e6a891122|undefined; _s_tentry=-; Apache=8275565331127.246.1604195643561; ULV=1604195643568:3:1:1:8275565331127.246.1604195643561:1604122447982; wb_view_log=1920*10801; UOR=,,editor.csdn.net' } html = requests.get(target,headers=headers).text for each in re.findall('(.*?)', res) # conmment = re.findall('(.*?) ', res) for each in conmment: # 将 内容里的那些表情替换 each = re.sub('<.*?>','',each) print(each) f_name = "./images/"+filename with open(f_name+"_李运辰.txt","a",encoding="utf-8") as f: f.write(each) f.write("\n") ``` 只是测试,所以就只爬了十几页: ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9tV0ZVTk1CV3ppYkxWRHY5ZzVFeDkzSDdEYUM5a05iV3hURzRrYWZJT2JQWEw0QWJKeG12WjFKSDM2OFBKRmhJZVRkM3pwNExJM1FsVjRvUnZINldhRmcvNjQw?x-oss-process=image/format,png) ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9tV0ZVTk1CV3ppYkxWRHY5ZzVFeDkzSDdEYUM5a05iV3hxcjFpYlpYSVBWMkZKZ2NZY0pDUk5YSURBNWhoTDl2aWE0d0d5M2FrSWlhZ3JBSUswTU9SRUVpYW5BLzY0MA?x-oss-process=image/format,png) 爬下来后可以自己对比一下: ![](https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9tV0ZVTk1CV3ppYkxWRHY5ZzVFeDkzSDdEYUM5a05iV3hManhJZTZCSWdneDJaR1M1RzhNdDVjMEtjVGYzTk1RbWYzb2VCRlZmb0FiT2REQk9MMmNXbFEvNjQw?x-oss-process=image/format,png) 搞定!!!!

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册