這篇文章主要為大家展示了“hadoop安裝配置會遇到什么問題”,內(nèi)容簡而易懂,條理清晰,希望能夠幫助大家解決疑惑,下面讓小編帶領大家一起研究并學習一下“hadoop安裝配置會遇到什么問題”這篇文章吧。
創(chuàng)新互聯(lián)公司是一家以網(wǎng)站建設、網(wǎng)頁設計、品牌設計、軟件運維、成都網(wǎng)站營銷、小程序App開發(fā)等移動開發(fā)為一體互聯(lián)網(wǎng)公司。已累計為集裝箱等眾行業(yè)中小客戶提供優(yōu)質(zhì)的互聯(lián)網(wǎng)建站和軟件開發(fā)服務。
使用環(huán)境:
ubuntu14.04 64位系統(tǒng)
java7
hadoop 2.4.1
幾個注意點
1、下載hadoop官網(wǎng)鏈接不可用,所以在開源中國下載
2、在下列場合務必使用同一個linux帳號權限下操作,我由于習慣與sudo創(chuàng)建配置文件和進行操作,出現(xiàn)一些問題
格式化hdfs
ssh無密碼登錄帳號
新建編輯配置文件
啟動hadoop等
3、hadoop要小心版本差異所帶來的問題,選擇適當?shù)慕滩?,比如hadoop1.x和2.x相比,2.x沒有JobTracker和TaskTracker
幾個問題:
問題1、localhost: Error: JAVA_HOME is not set and could not be found.
修改hadoop目錄下/hadoop/etc/hadoop/hadoop-env.sh中的 $JAVA_HOME為絕對路徑
# The java implementation to use. #export JAVA_HOME=${JAVA_HOME} export JAVA_HOME=/usr/lib/jvm/java7
問題2、出現(xiàn)本地庫無法導入,據(jù)說是64位機器會出現(xiàn)
錯誤如下:
This script is Deprecated. Instead use stop-dfs.sh and stop-yarn.sh 14/08/10 07:07:57 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable Stopping namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now. It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'. cluster1] sed: -e expression #1, char 6: unknown option to `s' -c: Unknown cipher type 'cd' ^Ccluster1: stopping namenode cluster1: stopping datanode VM: ssh: Could not resolve hostname VM: Name or service not known stack: ssh: Could not resolve hostname stack: Name or service not known
解決辦法,在hadoop-env.sh修改如下變量,我直接是加在文件末尾
export HADOOP_HOME=/data/server/hadoop export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
問題3、sbin/start-all.sh啟動時只有jps只有一個NodeManager問題?
nob@hadoop0:/data/server/hadoop/sbin$ jps 9922 NodeManager 10236 Jps
原因:我格式化hdfs的時候使用了超級管理員sudo命令,啟動的時候用戶權限不一致
問題4、sbin/start-all.sh 啟動后使用jps查看沒有JobTracker和TaskTracker?
nob@hadoop0:/data/server/hadoop/sbin$ jps 9444 DataNode 9922 NodeManager 9633 SecondaryNameNode 9790 ResourceManager 9291 NameNode 10236 Jps
原因是: hadoop-2.x版本中不存在JobTracker和TaskTracker,可以參考博客 http://blog.csdn.net/skywalker_only/article/details/37905463,啟動NameNode和DataNode的命令為start-dfs.sh,啟動yarn的命令為start-yarn.sh。
以上是“hadoop安裝配置會遇到什么問題”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學習更多知識,歡迎關注創(chuàng)新互聯(lián)行業(yè)資訊頻道!
文章題目:hadoop安裝配置會遇到什么問題
轉(zhuǎn)載來于:http://chinadenli.net/article38/gsgepp.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供App設計、面包屑導航、微信小程序、網(wǎng)站維護、全網(wǎng)營銷推廣、小程序開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)