小編給大家分享一下怎么用python爬蟲(chóng)獲取豆瓣的書(shū)評(píng)，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

我們提供的服務(wù)有：做網(wǎng)站、網(wǎng)站建設(shè)、微信公眾號(hào)開(kāi)發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、番禺ssl等。為近千家企事業(yè)單位解決了網(wǎng)站和推廣的問(wèn)題。提供周到的售前咨詢和貼心的售后服務(wù)，是有科學(xué)管理、有技術(shù)的番禺網(wǎng)站制作公司

python的五大特點(diǎn)是什么

python的五大特點(diǎn)：1.簡(jiǎn)單易學(xué)，開(kāi)發(fā)程序時(shí)，專注的是解決問(wèn)題,而不是搞明白語(yǔ)言本身。2.面向?qū)ο螅c其他主要的語(yǔ)言如C++和Java相比, Python以一種非常強(qiáng)大又簡(jiǎn)單的方式實(shí)現(xiàn)面向?qū)ο缶幊獭?.可移植性，Python程序無(wú)需修改就可以在各種平臺(tái)上運(yùn)行。4.解釋性，Python語(yǔ)言寫(xiě)的程序不需要編譯成二進(jìn)制代碼,可以直接從源代碼運(yùn)行程序。5.開(kāi)源，Python是 FLOSS(自由/開(kāi)放源碼軟件)之一。

1、分析網(wǎng)站

整個(gè)豆瓣的框架設(shè)計(jì)都是簡(jiǎn)單的靜態(tài)頁(yè)面，只需要頁(yè)面代碼參數(shù)。

urls=[]
pages=79 #可以根據(jù)頁(yè)面數(shù)據(jù)來(lái)設(shè)定
for page in range(0,pages):      
    url = 'https://book.douban.com/subject/26369699/reviews?start={}'.format(page)
    urls=urls.append(url)

通過(guò)觀察每個(gè)頁(yè)面的網(wǎng)站規(guī)則，可以推測(cè)start的計(jì)算公式，例如上面的代碼自動(dòng)生成所有數(shù)據(jù)的地址。

2、爬取網(wǎng)頁(yè)

需要登錄并將cookie傳遞給請(qǐng)求頭，以便正常請(qǐng)求數(shù)據(jù)。您可以在開(kāi)發(fā)人員模型的RequestHeaders中獲得cookies值。

def getHTML(url):
    headers={'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.114 Safari/537.36',
             'Connection': 'keep-alive',
             'Cookie': '', #你的cookies
             'Referer': 'https://book.douban.com/subject/26369699/reviews',
            }
    request = urllib.request.Request(url,headers=headers)
    response = urllib.request.urlopen(request)
    content = response.read().decode('utf-8')
    return content

以上是“怎么用python爬蟲(chóng)獲取豆瓣的書(shū)評(píng)”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！

文章題目：怎么用python爬蟲(chóng)獲取豆瓣的書(shū)評(píng)
URL網(wǎng)址：http://chinadenli.net/article12/ipjodc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供靜態(tài)網(wǎng)站、用戶體驗(yàn)、企業(yè)建站、建站公司、微信小程序、ChatGPT

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)