Hadoop,分布式的大數(shù)據(jù)存儲(chǔ)和計(jì)算, 免費(fèi)開源!有Linux基礎(chǔ)的同學(xué)安裝起來(lái)比較順風(fēng)順?biāo)瑢憥讉€(gè)配置文件就可以啟動(dòng)了,本人菜鳥,所以寫的比較詳細(xì)。為了方便,本人使用三臺(tái)的虛擬機(jī)系統(tǒng)是Ubuntu-12。設(shè)置虛擬機(jī)的網(wǎng)絡(luò)連接使用橋接方式,這樣在一個(gè)局域網(wǎng)方便調(diào)試。單機(jī)和集群安裝相差不多,先說(shuō)單機(jī)然后補(bǔ)充集群的幾點(diǎn)配置。
第一步,先安裝工具軟件
編輯器:vim
代碼如下:
sudo apt-get install vim
ssh服務(wù)器: openssh,先安裝ssh是為了使用遠(yuǎn)程終端工具(putty或xshell等),這樣管理虛擬機(jī)就方便多了。
代碼如下:
sudo apt-get install openssh-server
第二步,一些基本設(shè)置
最好給虛擬機(jī)設(shè)置固定IP
代碼如下:
sudo vim /etc/network/interfaces
加入以下內(nèi)容:
iface eth0 inet static
address 192.168.0.211
gateway 192.168.0.222
netmask 255.255.255.0
修改機(jī)器名,我這里指定的名字是:hadoopmaster ,以后用它做namenode
代碼如下:
sudo vim /etc/hostname
修改hosts,方便應(yīng)對(duì)IP變更,也方便記憶和識(shí)別
代碼如下:
sudo vim /etc/hosts
加入內(nèi)容:
192.168.0.211 hadoopmaster
第三步,添加一個(gè)專門為hadoop使用的用戶
代碼如下:
sudo addgroup hadoop
sudo adduser -ingroup hadoop hadoop
設(shè)置hadoop用戶的sudo權(quán)限
代碼如下:
sudo vim /etc/sudoers
在 root ALL=(ALL:ALL)
下面加一行 hadoop ALL=(ALL:ALL)
切換到hadoop用戶 su hadoop
第四步,解壓安裝JDK,HADOOP,PIG(順便把PIG也安裝了)
代碼如下:
sudo tar zxvf ./jdk-7-linux-i586.tar.gz -C /usr/local/jvm/
sudo tar zxvf ./hadoop-1.0.4.tar.gz -C /usr/local/hadoop
sudo tar zxvf ./pig-0.11.1.tar.gz -C /usr/local/pig
修改解壓后的目錄名并且最終路徑為:
代碼如下:
jvm: /usr/local/jvm/jdk7
hadoop: /usr/local/hadoop/hadoop (注意:hadoop所有節(jié)點(diǎn)的安裝路徑必須相同)
pig: /usr/local/pig
設(shè)置目錄所屬用戶
代碼如下:
sudo chown -R hadoop:hadoop jdk7
sudo chown -R hadoop:hadoop hadoop
sudo chown -R hadoop:hadoop pig
設(shè)置環(huán)境變量, 編輯~/.bashrc 或 ~/.profile 文件加入
代碼如下:
export JAVA_HOME=/usr/local/jvm/jdk7
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
export HADOOP_INSTALL=/usr/local/hadoop/hadoop
export PATH=${HADOOP_INSTALL}/bin:$PATH
source ~/.profile 生效
第五步,.ssh無(wú)密碼登錄本機(jī),也就是說(shuō)ssh到本機(jī)不需要密碼
代碼如下:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
如果不起作用請(qǐng)修改權(quán)限:
代碼如下:
chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys
authorized_keys相當(dāng)于白名單,id_rsa.pub是公鑰,凡是在authorized_keys有請(qǐng)求者機(jī)器的公鑰時(shí)ssh服務(wù)器直接放行,無(wú)需密碼!
新聞熱點(diǎn)
疑難解答
網(wǎng)友關(guān)注