這篇文章主要介紹了python分布式爬蟲(chóng)中的celery如何使用,具有一定借鑒價(jià)值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
1. broker:翻譯過(guò)來(lái)叫做中間人。它是一個(gè)消息傳輸?shù)闹虚g件,可以理解為一個(gè)郵箱。每當(dāng)應(yīng)用程序調(diào)用celery的異步任務(wù)的時(shí)候,會(huì)向broker傳遞消息,而后celery的worker將會(huì)取到消息,執(zhí)行相應(yīng)程序。這其實(shí)就是消費(fèi)者和生產(chǎn)者之間的橋梁。
2. backend: 通常程序發(fā)送的消息,發(fā)完就完了,可能都不知道對(duì)方時(shí)候接受了。為此,celery實(shí)現(xiàn)了一個(gè)backend,用于存儲(chǔ)這些消息以及celery執(zhí)行的一些消息和結(jié)果。
3. worker: Celery類(lèi)的實(shí)例,作用就是執(zhí)行各種任務(wù)。注意在celery3.1.25后windows是不支持celery worker的!
4. producer: 發(fā)送任務(wù),將其傳遞給broker
5. beat: celery實(shí)現(xiàn)的定時(shí)任務(wù)??梢詫⑵淅斫鉃橐粋€(gè)producer,因?yàn)樗彩峭ㄟ^(guò)網(wǎng)絡(luò)調(diào)用定時(shí)將任務(wù)發(fā)送給worker執(zhí)行。注意在windows上celery是不支持定時(shí)任務(wù)的!
下面是關(guān)于celery的架構(gòu)示意圖,結(jié)合上面文字的話(huà)應(yīng)該會(huì)更好理解
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享python分布式爬蟲(chóng)中的celery如何使用內(nèi)容對(duì)大家有幫助,同時(shí)也希望大家多多支持創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司,,關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,遇到問(wèn)題就找創(chuàng)新互聯(lián)網(wǎng)站建設(shè)公司,,詳細(xì)的解決方法等著你來(lái)學(xué)習(xí)!
網(wǎng)頁(yè)題目:python分布式爬蟲(chóng)中的celery如何使用-創(chuàng)新互聯(lián)
網(wǎng)站鏈接:http://chinadenli.net/article2/pesoc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供做網(wǎng)站、ChatGPT、軟件開(kāi)發(fā)、全網(wǎng)營(yíng)銷(xiāo)推廣、網(wǎng)站內(nèi)鏈、網(wǎng)頁(yè)設(shè)計(jì)公司
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀(guān)點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話(huà):028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容
營(yíng)銷(xiāo)型網(wǎng)站建設(shè)知識(shí)