首頁 > 後端開發 > Python教學 > 爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

發布: 2023-08-10 15:53:10
轉載
979 人瀏覽過


本期為<#知乎熱榜/微博熱搜時序圖>系列文章上篇內容,跟大家介紹如何使用Python定時爬取知乎熱榜/微博熱搜數據,並儲存至CSV檔案供後續視覺化使用,時序圖部分將在下篇# #內容中介紹,希望對你有幫助。

涉及到的内容:
pandas — 数据处理
schedule — 定时任务
#json — 資料格式

read_html
 — 網頁表格處理

###### ###########################
1. 準備工作

1.1 匯入模組 
#
import json
import time
import requests
import schedule
import pandas as pd
from fake_useragent import UserAgent
登入後複製


##

2. 知乎热榜数据

2.1 网页分析
知乎热榜电脑端接口:
https://www.zhihu.com/hot
登入後複製
知乎热榜手机端接口:
https://api.zhihu.com/topstory/hot-list?limit=10&reverse_order=0
登入後複製

注意:电脑端端直接F12调试页即可看到热榜数据,手机端需要借助抓包工具查看,这里我们使用手机端接口(返回json格式数据,解析比较方便)。

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

2.2 取得資料 

############################################################################
def getzhihudata(url, headers):
    r = requests.get(url, headers=headers)
    r.raise_for_status()
    r.encoding = r.apparent_encoding
    datas = json.loads(r.text)[&#39;data&#39;]
    allinfo = []
    time_mow = time.strftime("%Y-%m-%d %H:%M", time.localtime())
    print(time_mow)
    for indx,item in enumerate(datas):
        title = item[&#39;target&#39;][&#39;title&#39;]
        heat = item[&#39;detail_text&#39;].split(&#39; &#39;)[0]
        answer_count = item[&#39;target&#39;][&#39;answer_count&#39;]
        follower_count = item[&#39;target&#39;][&#39;follower_count&#39;]
        href = item[&#39;target&#39;][&#39;url&#39;]
        info = [time_mow, indx+1, title, heat, answer_count, follower_count, href]
        allinfo.append(info)
    # 仅首次加表头
    global csv_header
    df = pd.DataFrame(allinfo,columns=[&#39;时间&#39;,&#39;排名&#39;,&#39;标题&#39;,&#39;热度(万)&#39;,&#39;回答数&#39;,&#39;关注数&#39;,&#39;链接&#39;])
    print(df.head())
登入後複製

定时间隔设置1S:

# 每1分钟执行一次爬取任务:
schedule.every(1).minutes.do(getzhihudata,zhihu_url,headers)
while True:
     schedule.run_pending()
     time.sleep(1)
登入後複製

效果:

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

2.3 保存数据

df.to_csv(&#39;zhuhu_hot_datas.csv&#39;, mode=&#39;a+&#39;, index=False, header=csv_header)
csv_header = False
登入後複製
注意csv_header的设置,涉及到是否写入表头字段。


3. 微博熱搜資料

3.1 網頁分析 

#微博熱搜尋網址:

#https://s.weibo.com/top/summary

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)
F12查看網頁原始碼:
爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

資料在網頁的

標籤裡

3.2 取得資料 
##

代码:

def getweibodata():
    url = &#39;https://s.weibo.com/top/summary&#39;
    r = requests.get(url, timeout=10)
    r.encoding = r.apparent_encoding
    df = pd.read_html(r.text)[0]
    df = df.loc[1:,[&#39;序号&#39;, &#39;关键词&#39;]]
    df = df[~df[&#39;序号&#39;].isin([&#39;•&#39;])]
    time_mow = time.strftime("%Y-%m-%d %H:%M", time.localtime())
    print(time_mow)
    df[&#39;时间&#39;] = [time_mow] * df.shape[0]
    df[&#39;排名&#39;] = df[&#39;序号&#39;].apply(int)
    df[&#39;标题&#39;] = df[&#39;关键词&#39;].str.split(&#39; &#39;, expand=True)[0]
    df[&#39;热度&#39;] = df[&#39;关键词&#39;].str.split(&#39; &#39;, expand=True)[1]
    df = df[[&#39;时间&#39;,&#39;排名&#39;,&#39;标题&#39;,&#39;热度&#39;]]
    print(df.head())
登入後複製

定时间隔设置1S效果:

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)

3.3 保存数据

df.to_csv(&#39;weibo_hot_datas.csv&#39;, mode=&#39;a+&#39;, index=False, header=csv_header)
登入後複製

结果:

爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)


以上是爬蟲+視覺化 | Python知乎熱榜/微博熱搜時序圖(上篇)的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:Python当打之年
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板