一、說明

本文主要講述采集貓眼電影用戶評(píng)論進(jìn)行分析,相關(guān)爬蟲采集程序可以爬取多個(gè)電影評(píng)論。
運(yùn)行環(huán)境:Win10/Python3.5。
分析工具:jieba、wordcloud、pyecharts、matplotlib。
基本流程:下載內(nèi)容 ---> 分析獲取關(guān)鍵數(shù)據(jù) ---> 保存本地文件 ---> 分析本地文件制作圖表
注意:本文所有圖文和源碼僅供學(xué)習(xí),請(qǐng)勿他用,轉(zhuǎn)發(fā)請(qǐng)注明出處!
本文主要參考:https://mp.weixin.qq.com/s/mTxxkwRZPgBiKC3Sv-jo3g
二、開始采集
2.1、分析數(shù)據(jù)接口:
為了健全數(shù)據(jù)樣本,數(shù)據(jù)直接從移動(dòng)端接口進(jìn)行采集,連接如下,其中橙色部分為貓眼電影ID,修改即可爬取其他電影。
鏈接地址:http://m.maoyan.com/mmdb/comments/movie/1208282.json?v=yes&offset=15&startTime=
接口返回的數(shù)據(jù)如下,主要采集(昵稱、城市、評(píng)論、評(píng)分和時(shí)間),用戶評(píng)論在 json['cmts'] 中:
2.2、爬蟲程序核心內(nèi)容(詳細(xì)可以看后面源代碼):
>啟動(dòng)腳本需要的參數(shù)如下(腳本名+貓眼電影ID+上映日期+數(shù)據(jù)保存的文件名):.\myMovieComment.py 1208282 2016-11-16 myCmts2.txt
>下載html內(nèi)容:download(self, url),通過python的requests模塊進(jìn)行下載,將下載的數(shù)據(jù)轉(zhuǎn)成json格式
def download(self, url):
"""下載html內(nèi)容"""
print("正在下載URL: "+url)
# 下載html內(nèi)容
response = requests.get(url, headers=self.headers)
# 轉(zhuǎn)成json格式數(shù)據(jù)
if response.status_code == 200:
return response.json()
else:
# print(html.status_code)
print('下載數(shù)據(jù)為空!')
return ""
本文標(biāo)題:Python采集貓眼兩萬條數(shù)據(jù)對(duì)《無名之輩》影評(píng)進(jìn)行分析-創(chuàng)新互聯(lián)
標(biāo)題來源:http://chinadenli.net/article8/dphsop.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供用戶體驗(yàn)、搜索引擎優(yōu)化、網(wǎng)站營銷、品牌網(wǎng)站建設(shè)、服務(wù)器托管、微信小程序
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容