這篇文章主要為大家展示了“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學習一下“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章吧。

創(chuàng)新互聯(lián)建站主營六盤水網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營網(wǎng)站建設(shè)方案,App定制開發(fā),六盤水h5微信小程序開發(fā)搭建,六盤水網(wǎng)站營銷推廣歡迎六盤水等地區(qū)企業(yè)咨詢

調(diào)用agent 配置文件的：

#Describe the sink  添加：

a1.sinks.k1.hdfs.rollSize=0

a1.sinks.k1.hdfs.rollCount=0
rollSize
默認值：1024，當臨時文件達到該大小（單位：bytes）時，滾動成目標文件。如果設(shè)置成0，則表示不根據(jù)臨時文件大小來滾動文件。
rollCount
默認值：10，當events數(shù)據(jù)達到該數(shù)量時候，將臨時文件滾動成目標文件，如果設(shè)置成0，則表示不根據(jù)events數(shù)據(jù)來滾動文件。

還有另一種出現(xiàn)大量小文件對應的解決方案，即設(shè)置a1.sinks.k1.hdfs.minBlockReplicas=1。因為文件會因為所在塊的復制而滾動文件 待測試......

以上是“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學習更多知識，歡迎關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道！

文章題目：Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦-創(chuàng)新互聯(lián)
分享路徑：http://chinadenli.net/article10/hdsdo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供自適應網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)頁設(shè)計公司、網(wǎng)站制作、微信公眾號、用戶體驗

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)