這篇文章主要為大家展示了“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”，內容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領大家一起研究并學習一下“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章吧。

創(chuàng)新互聯(lián)建站主營六盤水網(wǎng)站建設的網(wǎng)絡公司,主營網(wǎng)站建設方案,App定制開發(fā),六盤水h5微信小程序開發(fā)搭建,六盤水網(wǎng)站營銷推廣歡迎六盤水等地區(qū)企業(yè)咨詢

調用agent 配置文件的：

#Describe the sink  添加：

a1.sinks.k1.hdfs.rollSize=0

a1.sinks.k1.hdfs.rollCount=0
rollSize
默認值：1024，當臨時文件達到該大?。▎挝唬篵ytes）時，滾動成目標文件。如果設置成0，則表示不根據(jù)臨時文件大小來滾動文件。
rollCount
默認值：10，當events數(shù)據(jù)達到該數(shù)量時候，將臨時文件滾動成目標文件，如果設置成0，則表示不根據(jù)events數(shù)據(jù)來滾動文件。

還有另一種出現(xiàn)大量小文件對應的解決方案，即設置a1.sinks.k1.hdfs.minBlockReplicas=1。因為文件會因為所在塊的復制而滾動文件 待測試......

以上是“Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注創(chuàng)新互聯(lián)-成都網(wǎng)站建設公司行業(yè)資訊頻道！

文章題目：Flume采集數(shù)據(jù)時在HDFS上產(chǎn)生大量小文件的問題怎么辦-創(chuàng)新互聯(lián)
分享路徑：http://chinadenli.net/article10/hdsdo.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供自適應網(wǎng)站、品牌網(wǎng)站制作、網(wǎng)頁設計公司、網(wǎng)站制作、微信公眾號、用戶體驗

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)