1. 程式人生 > >python爬取歌曲評論並進行資料視覺化

python爬取歌曲評論並進行資料視覺化

一、抓資料

要想做成詞雲圖表,首先得有資料才行。於是需要一點點的爬蟲技巧。

基本思路為:抓包分析、加密資訊處理、抓取熱門評論資訊

1.抓包分析

我們首先用瀏覽器開啟網易雲音樂的網頁版,進入薛之謙《摩天大樓》歌曲頁面,可以看到下面有評論。接著F12進入開發者控制檯(審查元素)。

接下來就要做的是,找到歌曲評論對應的url,並分析驗證其資料跟網頁現實的資料是否吻合

整理思路,分析api並模擬傳送請求,獲取json解析就好了

2.加密資訊處理

然後經過測試,直接把瀏覽器上這倆資料拿過來就可以。但是要想真正的解決這個加密處理,還需要有點加解密的只是儲存

3.抓取熱門評論資訊

二、資料視覺化

在獲得相關評論資料後,我們將其做成圖表與詞雲圖,將讓人看起來更直觀。

接下來需要在自己電腦上安裝需要相關的安裝包: pyecharts(圖表包)、matplotlib(繪圖功能包)、 WordCloud(詞雲包)

import requests

import json

from pyecharts import Bar

from wordcloud import WordCloud

import matplotlib.pyplot as plt

url = 'http://music.163.com/weapi/v1/resource/comments/R_SO_4_551816010?csrf_token=568cec564ccadb5f1b29311ece2288f1'

headers = {

    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36',

    'Referer':'http://music.163.com/#/album?id=38388012',

    'Origin':'http://music.163.com',

    'Host':'music.163.com'

}

#加密資料,直接拿過來用

user_data = {

    'params': 'vRlMDmFsdQgApSPW3Fuh93jGTi/ZN2hZ2MhdqMB503TZaIWYWujKWM4hAJnKoPdV7vMXi5GZX6iOa1aljfQwxnKsNT+5/uJKuxosmdhdBQxvX/uwXSOVdT+0RFcnSPtv',

    'encSecKey': '46fddcef9ca665289ff5a8888aa2d3b0490e94ccffe48332eca2d2a775ee932624afea7e95f321d8565fd9101a8fbc5a9cadbe07daa61a27d18e4eb214ff83ad301255722b154f3c1dd1364570c60e3f003e15515de7c6ede0ca6ca255e8e39788c2f72877f64bc68d29fac51d33103c181cad6b0a297fe13cd55aa67333e3e5'

}

response = requests.post(url,headers=headers,data=user_data)

data = json.loads(response.text)

hotcomments = []

for hotcommment in data['hotComments']:

    item = {

        'nickname':hotcommment['user']['nickname'],

        'content':hotcommment['content'],

        'likedCount':hotcommment['likedCount']   

    }

    hotcomments.append(item)

#獲取評論使用者名稱,內容,以及對應的獲贊數 

content_list = [content['content'] for content in hotcomments]

nickname = [content['nickname'] for content in hotcomments]

liked_count = [content['likedCount'] for content in hotcomments]

bar = Bar("熱評點贊示例圖")

bar.add( "點贊數",nickname, liked_count, is_stack=True,mark_line=["min", "max"],mark_point=["average"])

bar.render()

content_text = " ".join(content_list)

wordcloud = WordCloud(font_path=r"C:\simhei.ttf",max_words=200).generate(content_text)

plt.figure()

plt.imshow(wordcloud,interpolation='bilinear')

plt.axis('off')

plt.show()