由于是第一次谈恋爱，所以呢，对女生不是很了解，今天刚好看到微博榜姐搞了一个“女生哪些小秘密，是很多男生不知道的”，下边竟然有60000条评论！
60000个女生的小秘密啊！作为一个什么都不懂的男孩子，你是否好奇呢？
不管你好奇不好奇，反正我是挺好奇的！
看了60000个女生小秘密，女朋友的小秘密，我都能发现的！
python代码已经封装好了！一款爬取微博手机网页版评论的小程序
"""
当然在学习Python的道路上肯定会困难，没有好的学习资料，怎么去学习呢？
学习Python中有不明白推荐加入交流Q群号：928946953
群里有志同道合的小伙伴，互帮互助， 群里有不错的视频学习教程和PDF！
还有大牛解答！
"""
import requests
import json
import re
# 定义保存评论的函数
def bcpl(weibo_id, url, headers, number):
count = 0 #设置一个初始变量count为0来进行计数
with open("微博id" + str(weibo_id) + ".txt", "a", encoding="utf8") as f: #打开一个名为“微博idxxxxxx”的txt文件，编码utf-8
# 当count数量小于预期的number时，进行循环
while count < number:
# 判断是不是第一组评论，如果是的话，第一组评论不需要加max_id，之后的需要加
if count == 0:
try:
url = url + weibo_id + '&mid=' + weibo_id + '&max_id_type=0'
web_data = requests.get(url, headers=headers) #F12查看data信息
js_con = web_data.json() #转换一下数据格式
# 获取连接下一页评论的max_id
max_id = js_con['data']['max_id'] #max_id在[data]中
print(max_id)
comments = js_con['data']['data'] #获得数据中[data]中的[data]
for comment in comments: #依次循环获得comments中的数据
comment = comment["text"] #获得[text]下的数据，也就是评论数据
label = re.compile(r'</?\w+[^>]*>', re.S) #删除表情符号
comment = re.sub(label, '', comment) #获得文本评论
f.write(comment + '\n') #写入到文件中
count += 1 #count = count + 1
print("已爬取" + str(count) + "条评论！" ) #显示爬取到第几条
except Exception as e:
print("出错了" ,e)
continue
else:
try:
url = url + weibo_id + 'max_id=' + str(max_id) + '&max_id_type=0'
web_data = requests.get(url, headers=headers)
js_con = web_data.json()
max_id = js_con['data']['max_id']
comments = js_con['data']['data']
for comment in comments:
comment = comment["text"]
label = re.compile(r'</?\w+[^>]*>', re.S)
comment = re.sub(label, '', comment)
f.write(comment+ '\n')
count += 1
print("已爬取" + str(count) + "条评论！")
except Exception as e:
print("出错了" ,e)
continue
if __name__ == "__main__":
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36'
} #设置user-agent来进行伪装，突破微博反爬限制
url = 'https://m.weibo.cn/comments/hotflow?id='
weibo_id = '4478512314460101' # 要爬取的微博id #[url=https://m.weibo.cn/detail/4478512314460101]https://m.weibo.cn/detail/4478512314460101[/url]
#打开微博手机端网页[url=https://m.weibo.cn]https://m.weibo.cn[/url]，找到要爬取的微博id！
#手机端网页！手机端网页！手机端网页！
number = 60000 # 设置爬取评论量,爬取量在第X组，爬取时会爬取下来该组的数据，所以最终数据可能会大于number，一般是个整10的数
bcpl(weibo_id, url, headers, number)
来看下都python教程有啥密码：
