排錯(cuò)日志：

創(chuàng)新互聯(lián)是一家集網(wǎng)站建設(shè),邯山企業(yè)網(wǎng)站建設(shè),邯山品牌網(wǎng)站建設(shè),網(wǎng)站定制,邯山網(wǎng)站建設(shè)報(bào)價(jià),網(wǎng)絡(luò)營(yíng)銷,網(wǎng)絡(luò)優(yōu)化,邯山網(wǎng)站推廣為一體的創(chuàng)新建站企業(yè)，幫助傳統(tǒng)企業(yè)提升企業(yè)形象加強(qiáng)企業(yè)競(jìng)爭(zhēng)力?？沙浞譂M足這一群體相比中小企業(yè)更為豐富、高端、多元的互聯(lián)網(wǎng)需求。同時(shí)我們時(shí)刻保持專業(yè)、時(shí)尚、前沿，時(shí)刻以成就客戶成長(zhǎng)自我，堅(jiān)持不斷學(xué)習(xí)、思考、沉淀、凈化自己，讓我們?yōu)楦嗟钠髽I(yè)打造出實(shí)用型網(wǎng)站。

• • 解決辦法：可能是修改 機(jī)器名導(dǎo)致的，修改hosts，寫入hostname和IP，然后，try it agin！

  • 解決辦法：

  • 當(dāng)引入hadoop-common-2.2.0.jar包進(jìn)行二次開(kāi)發(fā)，比如讀寫HDFS文件時(shí)，初次運(yùn)行報(bào)錯(cuò)。

    java.io.IOException: No FileSystem for scheme: hdfs

        at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2421)

    at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2428)

        at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:88)

        at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2467)

        at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2449)
    
        at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:367)
    
        at FileCopyToHdfs.readFromHdfs(FileCopyToHdfs.java:65)
    
        at FileCopyToHdfs.main(FileCopyToHdfs.java:26)

    這是因?yàn)樵摪履J(rèn)的core-default.xml沒(méi)有配置如下屬性：

    <property>

    <name>fs.hdfs.impl</name>

    <value>org.apache.hadoop.hdfs.DistributedFileSystem</value>

    <description>The FileSystem for hdfs: uris.</description>

    < /property>

    添加完后，問(wèn)題解決。

    建議下載hadoop-2.2.0源碼，在源碼修改core-default.xml文件后再編譯打包，再在二次開(kāi)發(fā)的工程引入新的jar包。

    
    
    

    
    
    

  • http://www.cnblogs.com/tangtianfly/p/3491133.html

  • http://www.cnblogs.com/tangtianfly/p/3491133.html

  • http://blog.csdn.net/u013281331/article/details/17992077

  • 上屬性指定fs.hdfs.impl的實(shí)現(xiàn)類。

  • 解決辦法：

  • 時(shí)間不同步

  • su root

  • ntpdate133.100.11.8

  • cd /usr/local/hbase/bin/

  • ./hbase-daemon.sh start regionserver

  • 解決辦法：

  • 打開(kāi)hdfs-site.xml里配置的datanode和namenode對(duì)應(yīng)的目錄，分別打開(kāi)current文件夾里的VERSION，可以看到clusterID項(xiàng)正如日志里記錄的一樣，確實(shí)不一致，修改datanode里VERSION文件的clusterID 與namenode里的一致，再重新啟動(dòng)dfs（執(zhí)行start-dfs.sh）再執(zhí)行jps命令可以看到datanode已正常啟動(dòng)。

    出現(xiàn)該問(wèn)題的原因：在第一次格式化dfs后，啟動(dòng)并使用了hadoop，后來(lái)又重新執(zhí)行了格式化命令（hdfs namenode -format)，這時(shí)namenode的clusterID會(huì)重新生成，而datanode的clusterID 保持不變。

  • 解決辦法：

  • 1.檢查防火墻和selinux

    2.hosts里不要有127.0.0.1指向機(jī)器名的解析存在，如“127.0.0.1 localhost”。

  • 解決辦法：

  • 是因?yàn)閔base和hadoop里都有這個(gè)jar包，選擇其一移除即可。

  • 解決辦法：

  • 原來(lái)是Hadoop在剛啟動(dòng)的時(shí)候，還處在安全模式造成的。

    [coder@h2 hadoop-0.20.2]$ bin/hadoop dfsadmin -safemode get
    Safe mode is ON
    [coder@h2 hadoop-0.20.2]$

    可等Hadoop退出安全模式后再執(zhí)行HBase命令，或者手動(dòng)退出Hadoop的安全模式

    [coder@h2 hadoop-0.20.2]$ bin/hadoop dfsadmin -safemode leaveSafe mode is OFF
    [coder@h2 hadoop-0.20.2]$

    
    

    cd /usr/local/hadoop2/bin

    ./hadoop dfsadmin -safemode leave

  • 解決辦法：

  •  <property>
    
      <name>zookeeper.znode.parent</name>
    
      <value>/usr/local/hbase/hbase_tmp/hbase</value>
    
    </property>

    
    

  • 解決辦法：

  • ./stop-all.sh

    hadoop namenode -format

    rm -rf /home/hadoop/tmp/dfs

    ./start-all.sh

    
    

    rm -rf /home/hadoop/tmp

    rm -rf /home/hadoop/dfs_data

    rm -rf /home/hadoop/pids

    rm -rf /home/hadoop/dfs_name

    cd /usr/local/hadoop2/bin/

    ./hadoop namenode -format

  • closing ipc connection to master.kaiser.com/192.168.0.60:8020: Connection refused

    Call From master.kaiser.com/192.168.0.60 to master.kaiser.com:8020 failed on connection exception: java.net.ConnectException:Connection refused

    
    

    log：

    2014-09-03 13:50:39,029 INFO org.apache.hadoop.hdfs.server.common.Storage: Lock on /home/hadoop/dfs_name/in_use.lock acquired by nodename 7582@master.kaiser.com

    2014-09-03 13:50:39,032 WARN org.apache.hadoop.hdfs.server.namenode.FSNamesystem: Encountered exception loading fsp_w_picpath
    
    java.io.IOException: NameNode is not formatted.
    

    2014-09-03 13:50:39,141 FATAL org.apache.hadoop.hdfs.server.namenode.NameNode: Exception in namenode join

    java.io.IOException: NameNode is not formatted.

  • hadoop.hbase.MasterNotRunningException: The node /hbase is not in ZooKeeper. It should have been written by the master.Check the value configured in 'zookeeper.znode.parent'. There could be a mismatch with the one configured in the master.

  • 2013-04-13 17:13:17,374 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
    2013-04-13 17:13:27,377 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
    2013-04-13 17:13:37,386 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
    2013-04-13 17:13:47,393 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
    2013-04-13 17:13:57,395 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...
    2013-04-13 17:14:07,409 INFO org.apache.hadoop.hbase.util.FSUtils: Waiting for dfs to exit safe mode...

  • 執(zhí)行hbase程序orshell命令出現(xiàn)如下提示（./hbase shell）：

    SLF4J: Class path contains multiple SLF4J bindings.
    
    SLF4J: Found binding in [jar:file:/usr/local/hbase-0.92.1/lib/slf4j-log4j12-1.5.8.jar!/org/slf4j/impl/StaticLoggerBinder.class]
    
    SLF4J: Found binding in [jar:file:/usr/local/hadoop2-1.0.3/lib/slf4j-log4j12-1.4.3.jar!/org/slf4j/impl/StaticLoggerBinder.class]
    
    SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.

  • WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Problem connecting to server: tmaster.kaiser.com/192.168.0.63:9000

  • 2014-06-18 20:34:59,622 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for block pool Block pool <registering> (Datanode Uuid unassigned) service to localhost/127.0.0.1:9000
    
    java.io.IOException: Incompatible clusterIDs in /usr/local/hadoop/hdfs/data: namenode clusterID = CID-af6f15aa-efdd-479b-bf55-77270058e4f7; datanode clusterID = CID-736d1968-8fd1-4bc4-afef-5c72354c39ce
    
    at org.apache.hadoop.hdfs.server.datanode.DataStorage.doTransition(DataStorage.java:472)
    
    at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:225)
    
    at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:249)
    
    at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:929)
    
    at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:900)
    
    at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:274)
    
    at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:220)
    
    at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:815)
    
    at java.lang.Thread.run(Thread.java:744)

    從日志中可以看出，原因是因?yàn)閐atanode的clusterID 和 namenode的clusterID 不匹配。

  • regionserver.HRegionServer: Failed deleting my ephemeral node

  • 
    
    

  • 
    
    

  • 
    
    

  • java.io.IOException: No FileSystem for scheme: hdfs

  • hadoop：pache.hadoop.hdfs.server.blockmanagement.DatanodeManager: Unresolved datanode registration: hostname cannot be resolved
    
    Hbase：Will not attempt to authenticate using SASL (unknown error)

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無(wú)理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢(shì)，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。

文章標(biāo)題：hadoop+hbase+zookeeper+spark+p-創(chuàng)新互聯(lián)
標(biāo)題網(wǎng)址：http://chinadenli.net/article26/cepjjg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供定制網(wǎng)站、服務(wù)器托管、響應(yīng)式網(wǎng)站、定制開(kāi)發(fā)、微信公眾號(hào)、企業(yè)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)