Python 爬取张国荣最火的 8 首歌，60000 评论看完泪奔！-Python教程-PHP中文网

昨天是 4 月 1 日。

每年的这一天，

一部分人搜索枯肠想尽办法整蛊，

一部分人感怀四月该很好，倘若你还在。

甚至有人，用 AI 的方式来还原你。

但那终究不是你啊。

图片来源见水印

你走了 16 年了，那些当年在课桌前趁老师不注意偷偷听你歌的少年们，或许早已为人夫为人妇。

即便如此，每年却有很多人在这人间四月天里，借着你给世界留下的不绝回音，去思念你、去给你留言，即便明明知道，永远也不会收到回复。

640 (1).gif

眼下，我们选择以科技的方式，来纪念哥哥。

我们爬取了你在网易云音乐上，评论最多的八首歌曲。

它们依次是：《沉默是金》《春夏秋冬》《倩女幽魂》《当爱已成往事》《我》《风继续吹》《玻璃之情》《风再起时》。

总共 64540 条的评论中，出现最多的是“生日快乐”、“哥哥”、“加油”、“你若尚在场”、“新年快乐”和“哥哥，生日快乐”。

词云图里很少有“4 月 1 日”、“愚人节”的字眼，这并不是这一天去给你评论的人少，而是在这个日子，实在不适合对你说“快乐”。

来，先给大家看看评论的代码。

# coding:utf-8
import json
import time
import requests
from fake_useragent import UserAgent
import random
import multiprocessing
import sys
#reload(sys)
#sys.setdefaultencoding(&#39;utf-8&#39;)

ua = UserAgent(verify_ssl=False)

song_list = [{&#39;186453&#39;:&#39;春夏秋冬&#39;},{&#39;188204&#39;:&#39;沉默是金&#39;},{&#39;188175&#39;:&#39;倩女幽魂&#39;},{&#39;188489&#39;:&#39;风继续吹&#39;},{&#39;187374&#39;:&#39;我&#39;},{&#39;186760&#39;:&#39;风雨起时&#39;}]
headers = {
    &#39;Origin&#39;:&#39;https://music.163.com&#39;,
    &#39;Referer&#39;: &#39;https://music.163.com/song?id=26620756&#39;,
    &#39;Host&#39;: &#39;music.163.com&#39;,
    &#39;User-Agent&#39;: ua.random
}

def get_comments(page,ite):
    # 获取评论信息
    # """
    for key, values in ite.items():
        song_id = key
        song_name = values
    ip_list = [IP列表]
    url = &#39;http://music.163.com/api/v1/resource/comments/R_SO_4_&#39;+ song_id +&#39;?limit=20&offset=&#39; + str(page)
    proxies = get_random_ip(ip_list)
    try:
        response = requests.get(url=url, headers=headers,proxies=proxies)
    except Exception as e:
        print (page)
        print (ite)
        return 0
    result = json.loads(response.text)
    items = result[&#39;comments&#39;]
    for item in items:
        # 用户名
        user_name = item[&#39;user&#39;][&#39;nickname&#39;].replace(&#39;,&#39;, &#39;，&#39;)
        # 用户ID
        user_id = str(item[&#39;user&#39;][&#39;userId&#39;])
        print(user_id)
        # 评论内容
        comment = item[&#39;content&#39;].strip().replace(&#39;\n&#39;, &#39;&#39;).replace(&#39;,&#39;, &#39;，&#39;)
        # 评论ID
        comment_id = str(item[&#39;commentId&#39;])
        # 评论点赞数
        praise = str(item[&#39;likedCount&#39;])
        # 评论时间
        date = time.localtime(int(str(item[&#39;time&#39;])[:10]))
        date = time.strftime("%Y-%m-%d %H:%M:%S", date)

登录后复制

八首歌的歌词代码：

import requests
from bs4 import BeautifulSoup
import re
import json
import time
import random
import os

headers = {
    &#39;User-Agent&#39;: &#39;Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3355.4 Safari/537.36&#39;,
    &#39;Referer&#39;: &#39;http://music.163.com&#39;,
    &#39;Host&#39;: &#39;music.163.com&#39;
}


# 获取页面源码
def GetHtml(url):
    try:
        res = requests.get(url=url, headers=headers)
    except:
        return None
    return res.text


# 提取歌手歌词信息
def GetSongsInfo(url):
    print(&#39;[INFO]:Getting Songs Info...&#39;)
    html = GetHtml(url)
    soup = BeautifulSoup(html, &#39;lxml&#39;)
    links = soup.find(&#39;ul&#39;, class_=&#39;f-hide&#39;).find_all(&#39;a&#39;)
    if len(links) < 1:
        print(&#39;[Warning]:_GetSongsInfo <links> not find...&#39;)
    Info = {&#39;ID&#39;: [], &#39;NAME&#39;: []}
    for link in links:
        SongID = link.get(&#39;href&#39;).split(&#39;=&#39;)[-1]
        SongName = link.get_text()
        Info[&#39;ID&#39;].append(SongID)
        Info[&#39;NAME&#39;].append(SongName)
    # print(Info)
    return Info


def GetLyrics(SongID):
    print(&#39;[INFO]:Getting %s lyric...&#39; % SongID)
    ApiUrl = &#39;http://music.163.com/api/song/lyric?id={}&lv=1&kv=1&tv=-1&#39;.format(SongID)
    html = GetHtml(ApiUrl)
    html_json = json.loads(html)
    temp = html_json[&#39;lrc&#39;][&#39;lyric&#39;]
    rule = re.compile(r&#39;\[.*\]&#39;)
    lyric = re.sub(rule, &#39;&#39;, temp).strip()
    print(lyric)
    return lyric


def main():
    SingerId = input(&#39;Enter the Singer ID:&#39;)
    url = &#39;http://music.163.com/artist?id={}&#39;.format(SingerId)
    # url = "http://music.163.com/artist?id=6457"
    Info = GetSongsInfo(url)
    IDs = Info[&#39;ID&#39;]
    i = 0
    for ID in IDs:
        lyric = GetLyrics(ID)
        SaveLyrics(Info[&#39;NAME&#39;][i], lyric)
        i += 1
        time.sleep(random.random() * 3)
        # print(&#39;[INFO]:All Done...&#39;)


def SaveLyrics(SongName, lyric):
    print(&#39;[INFO]: Start to Save {}...&#39;.format(SongName))
    if not os.path.isdir(&#39;./results&#39;):
        os.makedirs(&#39;./results&#39;)
    with open(&#39;./results/{}.txt&#39;.format(SongName), &#39;w&#39;, encoding=&#39;utf-8&#39;) as f:
        f.write(lyric)

登录后复制

《沉默是金》

是错永不对真永是真

任你怎说安守我本份

始终相信沉默是金

这首歌是你亲自谱曲的。

当时，“谭张争霸”（1986-1989 年，谭咏麟和张国荣为争夺乐坛地位，而在音乐上展开了全面竞争角逐）已经进入白热化。

你讨厌争来争去，于是借歌明志，推出了《沉默是金》。

你说，“任你怎说安守我本份，始终相信，沉默是金。”

清者自清，你的沉默，愈加彰显纯真本色。

《春夏秋冬》

秋天该很好你若尚在场