国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁(yè) > 系統(tǒng) > Linux > 正文

Hadoop單機(jī)版和全分布式(集群)安裝

2019-10-26 18:37:19
字體:
來(lái)源:轉(zhuǎn)載
供稿:網(wǎng)友

Hadoop,分布式的大數(shù)據(jù)存儲(chǔ)和計(jì)算, 免費(fèi)開源!有Linux基礎(chǔ)的同學(xué)安裝起來(lái)比較順風(fēng)順?biāo)瑢憥讉€(gè)配置文件就可以啟動(dòng)了,本人菜鳥,所以寫的比較詳細(xì)。為了方便,本人使用三臺(tái)的虛擬機(jī)系統(tǒng)是Ubuntu-12。設(shè)置虛擬機(jī)的網(wǎng)絡(luò)連接使用橋接方式,這樣在一個(gè)局域網(wǎng)方便調(diào)試。單機(jī)和集群安裝相差不多,先說(shuō)單機(jī)然后補(bǔ)充集群的幾點(diǎn)配置。

第一步,先安裝工具軟件
編輯器:vim
代碼如下:
sudo apt-get install vim

ssh服務(wù)器: openssh,先安裝ssh是為了使用遠(yuǎn)程終端工具(putty或xshell等),這樣管理虛擬機(jī)就方便多了。
代碼如下:
sudo apt-get install openssh-server

第二步,一些基本設(shè)置
最好給虛擬機(jī)設(shè)置固定IP
代碼如下:
sudo vim /etc/network/interfaces
加入以下內(nèi)容:
iface eth0 inet static
address 192.168.0.211
gateway 192.168.0.222
netmask 255.255.255.0

修改機(jī)器名,我這里指定的名字是:hadoopmaster ,以后用它做namenode
代碼如下:
sudo vim /etc/hostname

修改hosts,方便應(yīng)對(duì)IP變更,也方便記憶和識(shí)別
代碼如下:
sudo vim /etc/hosts
加入內(nèi)容:
192.168.0.211   hadoopmaster

第三步,添加一個(gè)專門為hadoop使用的用戶
代碼如下:
sudo addgroup hadoop
sudo adduser -ingroup hadoop hadoop

設(shè)置hadoop用戶的sudo權(quán)限
代碼如下:
sudo vim /etc/sudoers

在 root ALL=(ALL:ALL)
下面加一行 hadoop ALL=(ALL:ALL)
切換到hadoop用戶 su hadoop

第四步,解壓安裝JDK,HADOOP,PIG(順便把PIG也安裝了)
代碼如下:
sudo tar zxvf ./jdk-7-linux-i586.tar.gz  -C /usr/local/jvm/
sudo tar zxvf ./hadoop-1.0.4.tar.gz -C /usr/local/hadoop
sudo tar zxvf ./pig-0.11.1.tar.gz -C /usr/local/pig

修改解壓后的目錄名并且最終路徑為:
代碼如下:
jvm: /usr/local/jvm/jdk7
hadoop: /usr/local/hadoop/hadoop (注意:hadoop所有節(jié)點(diǎn)的安裝路徑必須相同)
pig: /usr/local/pig

設(shè)置目錄所屬用戶
代碼如下:
sudo chown -R hadoop:hadoop jdk7
sudo chown -R hadoop:hadoop hadoop
sudo chown -R hadoop:hadoop pig

設(shè)置環(huán)境變量, 編輯~/.bashrc 或 ~/.profile 文件加入
代碼如下:
export JAVA_HOME=/usr/local/jvm/jdk7
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
export HADOOP_INSTALL=/usr/local/hadoop/hadoop
export PATH=${HADOOP_INSTALL}/bin:$PATH
source ~/.profile 生效

第五步,.ssh無(wú)密碼登錄本機(jī),也就是說(shuō)ssh到本機(jī)不需要密碼
代碼如下:
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

如果不起作用請(qǐng)修改權(quán)限:
代碼如下:
chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys 

authorized_keys相當(dāng)于白名單,id_rsa.pub是公鑰,凡是在authorized_keys有請(qǐng)求者機(jī)器的公鑰時(shí)ssh服務(wù)器直接放行,無(wú)需密碼!

發(fā)表評(píng)論 共有條評(píng)論
用戶名: 密碼:
驗(yàn)證碼: 匿名發(fā)表
主站蜘蛛池模板: 阳信县| 墨竹工卡县| 西充县| 洛南县| 南部县| 河津市| 彩票| 沽源县| 福建省| 巴塘县| 民勤县| 建宁县| 赤峰市| 县级市| 荆门市| 松滋市| 内黄县| 慈溪市| 吉安市| 晋宁县| 广丰县| 博白县| 萝北县| 漳州市| 安仁县| 乌鲁木齐县| 石泉县| 昌都县| 澄迈县| 奎屯市| 德钦县| 开江县| 南岸区| 青田县| 东光县| 庆云县| 益阳市| 将乐县| 浦东新区| 岐山县| 株洲县|