采用filebeat收集日志,日志文件頻繁rotate,造成filebeat占用文件不釋放,只要filebeat保持著被刪除文件Open狀態(tài),操作系統(tǒng)就不釋放磁盤(pán)空間,導(dǎo)致可用磁盤(pán)空間逐漸減小。如下監(jiān)控圖,殺掉filebeat進(jìn)程之后,磁盤(pán)占用陡然下降。
使用lsof命令查看filebeat保持著的文件資源,可以發(fā)現(xiàn)許多被filebeat占用空間的失效文件(deleted)文件。
deleted狀態(tài)的文件沒(méi)有釋放,始終占據(jù)磁盤(pán)空間
解決辦法:
查看filebeat配置文件位置: /etc/filebeat/filebeat.yml
在配置文件中添加close_timeout: 5m,保證每隔5分鐘file handler被關(guān)閉,不管是否遇到EOF符號(hào)。
需要注意的是,該close_timeout參數(shù)在Filebeat沒(méi)有處理到文件末尾而文件被刪除的情況下,會(huì)導(dǎo)致數(shù)據(jù)丟失。
filebeat.prospectors:
- type: log
paths:
- /opt/apps/ecm/service/storm/1.0.1/package/apache-storm-1.0.1/logs/workers-artifacts/xyz*/*/worker.log
tail_files: false
force_close_files: true
close_timeout: 5m
processors:
- add_cloud_metadata: ~
output.logstash:
hosts: ["10.10.10.10:6667"]
loadbalance: true
worker: 1
-----------------------------------------------------------------
close_rename,close_removed,close_eof,close_inactive等配置型對(duì)于(deteled)狀態(tài)處理均無(wú)效(已測(cè)試驗(yàn)證)
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。
分享名稱:【總結(jié)】filebeat進(jìn)程寫(xiě)滿磁盤(pán)的情況處理-創(chuàng)新互聯(lián)
當(dāng)前地址:http://chinadenli.net/article0/dchooo.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供定制開(kāi)發(fā)、自適應(yīng)網(wǎng)站、ChatGPT、網(wǎng)站維護(hù)、手機(jī)網(wǎng)站建設(shè)、搜索引擎優(yōu)化
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容