這篇文章主要介紹“如何利用aiohttp制作異步爬蟲(chóng)”，在日常操作中，相信很多人在如何利用aiohttp制作異步爬蟲(chóng)問(wèn)題上存在疑惑，小編查閱了各式資料，整理出簡(jiǎn)單好用的操作方法，希望對(duì)大家解答”如何利用aiohttp制作異步爬蟲(chóng)”的疑惑有所幫助！接下來(lái)，請(qǐng)跟著小編一起來(lái)學(xué)習(xí)吧！

成都創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價(jià)比五寨網(wǎng)站開(kāi)發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫(kù),直接使用。一站式五寨網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們，業(yè)務(wù)覆蓋五寨地區(qū)。費(fèi)用合理售后完善，10年實(shí)體公司更值得信賴。

 簡(jiǎn)介

asyncio可以實(shí)現(xiàn)單線程并發(fā)IO操作，是Python中常用的異步處理模塊。關(guān)于asyncio模塊的介紹，筆者會(huì)在后續(xù)的文章中加以介紹，本文將會(huì)講述一個(gè)基于asyncio實(shí)現(xiàn)的HTTP框架——aiohttp，它可以幫助我們異步地實(shí)現(xiàn)HTTP請(qǐng)求，從而使得我們的程序效率大大提高。

本文將會(huì)介紹aiohttp在爬蟲(chóng)中的一個(gè)簡(jiǎn)單應(yīng)用。

在原來(lái)的項(xiàng)目中，我們是利用Python的爬蟲(chóng)框架scrapy來(lái)爬取當(dāng)當(dāng)網(wǎng)圖書暢銷榜的圖書信息的。在本文中，筆者將會(huì)以兩種方式來(lái)制作爬蟲(chóng)，比較同步爬蟲(chóng)與異步爬蟲(chóng)(利用aiohttp實(shí)現(xiàn))的效率，展示aiohttp在爬蟲(chóng)方面的優(yōu)勢(shì)。

同步爬蟲(chóng)

首先，我們先來(lái)看看用一般的方法實(shí)現(xiàn)的爬蟲(chóng)，即同步方法，完整的Python代碼如下：

'''  同步方式爬取當(dāng)當(dāng)暢銷書的圖書信息  '''  import time  import requests  import pandas as pd  from bs4 import BeautifulSoup  # table表格用于儲(chǔ)存書本信息  table = []  # 處理網(wǎng)頁(yè)  def download(url):      html = requests.get(url).text      # 利用BeautifulSoup將獲取到的文本解析成HTML      soup = BeautifulSoup(html, "lxml")      # 獲取網(wǎng)頁(yè)中的暢銷書信息      book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')      for book in book_list:          info = book.find_all('div')          # 獲取每本暢銷書的排名，名稱，評(píng)論數(shù)，作者，出版社          rank = info[0].text[0:-1]          name = info[2].text          comments = info[3].text.split('條')[0]          author = info[4].text          date_and_publisher = info[5].text.split()          publisher = date_and_publisher[1] if len(date_and_publisher) >= 2 else ''          # 將每本暢銷書的上述信息加入到table中          table.append([rank, name, comments, author, publisher])  # 全部網(wǎng)頁(yè)  urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d' % i for i in range(1, 26)]  # 統(tǒng)計(jì)該爬蟲(chóng)的消耗時(shí)間  print('#' * 50)  t1 = time.time()  # 開(kāi)始時(shí)間  for url in urls:      download(url)  # 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件  df = pd.DataFrame(table, columns=['rank', 'name', 'comments', 'author', 'publisher'])  df.to_csv('E://douban/dangdang.csv', index=False)  t2 = time.time()  # 結(jié)束時(shí)間  print('使用一般方法，總共耗時(shí)：%s' % (t2 - t1))  print('#' * 50)

輸出結(jié)果如下：

##################################################  使用一般方法，總共耗時(shí)：23.522345542907715  ##################################################

程序運(yùn)行了23.5秒，爬取了500本書的信息，效率還是可以的。我們前往目錄中查看文件，如下：

異步爬蟲(chóng)

接下來(lái)我們看看用aiohttp制作的異步爬蟲(chóng)的效率，完整的源代碼如下：

'''  異步方式爬取當(dāng)當(dāng)暢銷書的圖書信息  '''  import time  import aiohttp  import asyncio  import pandas as pd  from bs4 import BeautifulSoup  # table表格用于儲(chǔ)存書本信息  table = []  # 獲取網(wǎng)頁(yè)（文本信息）  async def fetch(session, url):      async with session.get(url) as response:          return await response.text(encoding='gb18030')  # 解析網(wǎng)頁(yè)  async def parser(html):      # 利用BeautifulSoup將獲取到的文本解析成HTML      soup = BeautifulSoup(html, "lxml")      # 獲取網(wǎng)頁(yè)中的暢銷書信息      book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')      for book in book_list:          info = book.find_all('div')          # 獲取每本暢銷書的排名，名稱，評(píng)論數(shù)，作者，出版社          rank = info[0].text[0:-1]          name = info[2].text          comments = info[3].text.split('條')[0]          author = info[4].text          date_and_publisher = info[5].text.split()          publisher = date_and_publisher[1] if len(date_and_publisher) >=2 else ''          # 將每本暢銷書的上述信息加入到table中          table.append([rank,name,comments,author,publisher])  # 處理網(wǎng)頁(yè)      async def download(url):      async with aiohttp.ClientSession() as session:          html = await fetch(session, url)          await parser(html)  # 全部網(wǎng)頁(yè)  urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d'%i for i in range(1,26)]  # 統(tǒng)計(jì)該爬蟲(chóng)的消耗時(shí)間  print('#' * 50)  t1 = time.time() # 開(kāi)始時(shí)間  # 利用asyncio模塊進(jìn)行異步IO處理  loop = asyncio.get_event_loop()  tasks = [asyncio.ensure_future(download(url)) for url in urls]  tasks = asyncio.gather(*tasks)  loop.run_until_complete(tasks)  # 將table轉(zhuǎn)化為pandas中的DataFrame并保存為CSV格式的文件  df = pd.DataFrame(table, columns=['rank','name','comments','author','publisher'])  df.to_csv('E://douban/dangdang.csv',index=False)  t2 = time.time() # 結(jié)束時(shí)間  print('使用aiohttp，總共耗時(shí)：%s' % (t2 - t1))  print('#' * 50)

我們可以看到，這個(gè)爬蟲(chóng)與原先的一般方法的爬蟲(chóng)的思路和處理方法基本一致，只是在處理HTTP請(qǐng)求時(shí)使用了aiohttp模塊以及在解析網(wǎng)頁(yè)時(shí)函數(shù)變成了協(xié)程(coroutine)，再利用aysncio進(jìn)行并發(fā)處理，這樣無(wú)疑能夠提升爬蟲(chóng)的效率。它的運(yùn)行結(jié)果如下：

##################################################  使用aiohttp，總共耗時(shí)：2.405137538909912  ##################################################

2.4秒，如此神奇！！！再來(lái)看看文件的內(nèi)容：

到此，關(guān)于“如何利用aiohttp制作異步爬蟲(chóng)”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí)，請(qǐng)繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站，小編會(huì)繼續(xù)努力為大家?guī)?lái)更多實(shí)用的文章！

網(wǎng)頁(yè)名稱：如何利用aiohttp制作異步爬蟲(chóng)
網(wǎng)站鏈接：http://chinadenli.net/article16/gsjddg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供建站公司、App設(shè)計(jì)、網(wǎng)站策劃、網(wǎng)站建設(shè)、微信公眾號(hào)、外貿(mào)網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)