怎麼用Python展示全國大學的分佈情-Python教學-PHP中文網

怎麼用Python展示全國大學的分佈情

WBOY

發布： 2023-05-01 10:16:12

轉載

1066 人瀏覽過

資料取得

要展示大學的分佈情況，就得先取得全國大學的位置資料。本文的資料來自於掌上高考網

在2022年6月寫本文時，共獲取到了2822所高校的資訊。檢查了數據，除了極個別空值外，整個數據是非常完整的，不影響使用。資料一共有44個字段，本文只會用幾個字段，可以不做處理，使用時按需獲取即可。

怎麼用Python展示全國大學的分佈情

資料取得方法介紹（基礎爬蟲知識）：

1.註冊登入掌上高考網。在頁面選擇全部學校。

2.按F12鍵，點選Network > Fetch/XHR，然後點選幾次頁面的、

3.將每次翻頁時的API複製出來進行對比，發現翻頁時變化的參數有兩個：page和signsafe，page為當前訪問的頁數，signsafe是一個md5值，沒辦法反解，但可以把前面幾次的數值保存下來，後面隨機變化使用。有了這個訊息，不斷改變訪問的頁數和signsafe值，就可以獲得所有的學校數據。

Response中的numFound參數值是學校總數，除以每頁顯示的學校個數可以得到總頁數，也可以直接點擊頁面的查看總頁數，這樣就確定了訪問的次數。

4.因為網站需要登入才能使用，所以也要取得造訪時的Headers，如Request Method(此次用POST)、User-Agent等。

5.有了上面的信息，循環拼接出所有頁面的url，用requests發送請求即可獲取到所有高校的數據，然後用pandas將數據寫到excel中。

溫馨提示：取得資料時需遵守網站的相關聲明，爬蟲程式碼盡量設定一定的時間間隔，不要在造訪高峰期執行爬蟲程式碼。

經緯度取得

掌上高考網是為高考填志工服務的網站，雖然取得的資料有44個字段，但裡面並沒有學校的經緯度。為了更好地在地圖上顯示高校位置，需要根據學校的地址取得對應的經緯度。

本文使用百度地圖開放平台：https://lbsyun.baidu.com/apiconsole/center#/home，可以用百度地圖的開放介面取得地理位置的經緯度。

使用步驟為：

1.註冊登入百度帳號，這個帳號可以是整個百度生態通用的帳號（如網盤、文庫等的帳號是通用的）。

2.登入百度地圖開放平台，點擊進入，然後在中點擊，再點擊建立一個應用程式。套用名稱自訂，其他資訊依提示和要求填寫完整，並進行實名認證，成為個人開發者。

怎麼用Python展示全國大學的分佈情

3.創建應用程式完成後，會得到一個應用的，用這個AK值可以呼叫百度的API，參考代碼如下。

import requests


def baidu_api(addr):
url = "http://api.map.baidu.com/geocoding/v3/?"
params = {
"address": addr,
"output": "json",
"ak": "复制你创建的应用AK到此"
}
req = requests.get(url, params)
res = req.json()
if len(res["result"]) > 0:
loc = res["result"]["location"]
return loc
else:
print("获取{}经纬度失败".format(addr))
return {&#39;lng&#39;: &#39;&#39;, &#39;lat&#39;: &#39;&#39;}

登入後複製

4.成功呼叫百度地圖API後，讀取所有高校的位置，依序呼叫上面的函數，取得所有高校的經緯度，重新寫入excel。

import pandas as pd
import numpy as np


def get_lng_lat():
df = pd.read_excel(&#39;school.xlsx&#39;)
lng_lat = []
for row_index, row_data in df.iterrows():
addr = row_data[&#39;address&#39;]
if addr is np.nan:
addr = row_data[&#39;city_name&#39;] + row_data[&#39;county_name&#39;]
# print(addr)
loc = baidu_api(addr.split(&#39;,&#39;)[0])
lng_lat.append(loc)
df[&#39;经纬度&#39;] = lng_lat
df[&#39;经度&#39;] = df[&#39;经纬度&#39;].apply(lambda x: x[&#39;lng&#39;])
df[&#39;纬度&#39;] = df[&#39;经纬度&#39;].apply(lambda x: x[&#39;lat&#39;])
df.to_excel(&#39;school_lng_lat.xlsx&#39;)

登入後複製

最終資料結果如下圖：

怎麼用Python展示全國大學的分佈情

個人開發者使用百度地圖開放平台時需注意，每天有額度限制，所以偵錯程式碼時先不要用所有數據，先用demo跑通，否則要等一天或購買額度。

怎麼用Python展示全國大學的分佈情

大學位置展示

資料準備好了，接下來將他們展示到地圖上。

本文使用百度開源的資料視覺化工具Echarts，Echarts為Python語言提供了pyecharts函式庫，使用很方便。

安裝指令：

pip install pyecharts

登入後複製

1.標註高校的位置

from pyecharts.charts import Geo
from pyecharts import options as opts
from pyecharts.globals import GeoType
import pandas as pd

def multi_location_mark():
"""批量标注点"""
geo = Geo(init_opts=opts.InitOpts(bg_color=&#39;black&#39;, width=&#39;1600px&#39;, height=&#39;900px&#39;))
df = pd.read_excel(&#39;school_lng_lat.xlsx&#39;)
for row_index, row_data in df.iterrows():
geo.add_coordinate(row_data[&#39;name&#39;], row_data[&#39;经度&#39;], row_data[&#39;纬度&#39;])
data_pair = [(name, 2) for name in df[&#39;name&#39;]]
geo.add_schema(
maptype=&#39;china&#39;, is_roam=True, itemstyle_opts=opts.ItemStyleOpts(color=&#39;#323c48&#39;, border_color=&#39;#408080&#39;)
).add(
&#39;&#39;, data_pair=data_pair, type_=GeoType.SCATTER, symbol=&#39;pin&#39;, symbol_size=16, color=&#39;#CC3300&#39;
).set_series_opts(
label_opts=opts.LabelOpts(is_show=False)
).set_global_opts(
title_opts=opts.TitleOpts(title=&#39;全国高校位置标注图&#39;, pos_left=&#39;650&#39;, pos_top=&#39;20&#39;,
title_textstyle_opts=opts.TextStyleOpts(color=&#39;white&#39;, font_size=16))
).render(&#39;high_school_mark.html&#39;)

登入後複製

怎麼用Python展示全國大學的分佈情

從標註結果來看，大學主要分佈沿海、中部和東部，西部尤其是高海拔地區分佈相對較少。

2.繪製高校分佈熱力圖

from pyecharts.charts import Geo
from pyecharts import options as opts
from pyecharts.globals import ChartType
import pandas as pd

def draw_location_heatmap():
"""绘制热力图"""
geo = Geo(init_opts=opts.InitOpts(bg_color=&#39;black&#39;, width=&#39;1600px&#39;, height=&#39;900px&#39;))
df = pd.read_excel(&#39;school_lng_lat.xlsx&#39;)
for row_index, row_data in df.iterrows():
geo.add_coordinate(row_data[&#39;name&#39;], row_data[&#39;经度&#39;], row_data[&#39;纬度&#39;])
data_pair = [(name, 2) for name in df[&#39;name&#39;]]
geo.add_schema(
maptype=&#39;china&#39;, is_roam=True, itemstyle_opts=opts.ItemStyleOpts(color=&#39;#323c48&#39;, border_color=&#39;#408080&#39;)
).add(
&#39;&#39;, data_pair=data_pair, type_=ChartType.HEATMAP
).set_series_opts(
label_opts=opts.LabelOpts(is_show=False)
).set_global_opts(
title_opts=opts.TitleOpts(title=&#39;全国高校分布热力图&#39;, pos_left=&#39;650&#39;, pos_top=&#39;20&#39;,
title_textstyle_opts=opts.TextStyleOpts(color=&#39;white&#39;, font_size=16)),
visualmap_opts=opts.VisualMapOpts()
).render(&#39;high_school_heatmap.html&#39;)

登入後複製

怎麼用Python展示全國大學的分佈情

#從熱力學圖看，高校分佈較集中的地方主要是沿海、北上廣、長江黃河流域，西部較多的地方只有川渝。

3.绘制按省划分的分布密度图

from pyecharts.charts import Map
from pyecharts import options as opts
import pandas as pd


def draw_location_density_map():
"""绘制各省高校分布密度图"""
map = Map(init_opts=opts.InitOpts(bg_color=&#39;black&#39;, width=&#39;1200px&#39;, height=&#39;700px&#39;))
df = pd.read_excel(&#39;school_lng_lat.xlsx&#39;)
s = df[&#39;province_name&#39;].value_counts()
data_pair = [[province, int(s[province])] for province in s.index]
map.add(
&#39;&#39;, data_pair=data_pair, maptype="china"
).set_global_opts(
title_opts=opts.TitleOpts(title=&#39;全国高校按省分布密度图&#39;, pos_left=&#39;500&#39;, pos_top=&#39;70&#39;,
title_textstyle_opts=opts.TextStyleOpts(color=&#39;white&#39;, font_size=16)),
visualmap_opts=opts.VisualMapOpts(max_=200, is_piecewise=True, pos_left=&#39;100&#39;, pos_bottom=&#39;100&#39;,textstyle_opts=opts.TextStyleOpts(color=&#39;white&#39;, font_size=16))
).render("high_school_density.html")

登入後複製

怎麼用Python展示全國大學的分佈情