Centos6.5 Hadoop完全分布集群搭建详解

#系统:centos6.5	64位
#JDK:1.7.0_79
#Hadoop:2.4.0 	64位
#注:(配置网络,首先配置好一台主机,另外的克隆主机即可)

一、安装SSH

yum install openssh

二、关闭防火墙

chkconfig iptables off
sudo gedit /etc/selinux/config  # 改为 SELINUX=disabled

三、修改hosts文件

sudo gedit /etc/hosts

把里面所有的内容使用#注释掉,然后添加主机的ip和主机名

192.168.10.110		Master
192.168.10.111		Slave1
192.168.10.112		Slave2

四、设置免密码登陆

ssh-keygen -t rsa		#一路空格
```					
切换到ssh的目录

cd /root/.ssh cat id_rsa.pub >> authorized_keys

测试是否可以免密码登陆

ssh Master

五、配置JDK
把JDK 解压到 /usr/java/ 目录下
配置JDK的环境变量

sudo gedit /etc/profile #在最后一行增加以下内容: JAVA_HOME=/usr/java/jdk1.7.0_79 JRE_HOME=/usr/java/jdk1.7.0_79/jre PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin CLASSPATH=:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib

五、配置Hadoop
解压Hadoop-2.4.0到 /usr/java 的目录下
需要配置文件:core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml、hadoop-env.sh、yarn-env.sh、slaves。
1、core-site.xml
fs.defaultFS hdfs://Master:9000 默认HDFS的路径 true hadoop.tmp.dir /usr/java/hadoop-2.4.0/tmp 临时文件夹路径 io.file.buffer.size 131072 缓冲区的大小:io.file.buffer.size 默认4KB hadoop.proxyuser.hduser.hosts * hadoop.proxyuser.hduser.groups *
2、hdfs-site.xml
dfs.namenode.secondary.http-address Master:9001 dfs.namenode.name.dir file:/usr/java/hadoop-2.4.0/dfs/namenode dfs.datanode.data.dir file:/usr/java/hadoop-2.4.0/dfs/datanode dfs.replication 3 dfs.webhdfs.enabled true
3、mapred-site.xml
mapreduce.framework.name yarn Execution framework set to Hadoop YARN. mapreduce.jobhistory.address Master:10020 mapreduce.jobhistory.webapp.address Master:19888
4、yarn-site.xml
yarn.nodemanager.aux-services mapreduce_shuffle yarn.nodemanager.aux-services.mapreduce.shuffle.class org.apache.hadoop.mapred.ShuffleHandler yarn.resourcemanager.address Master:8032 The address of the applications manager interface in the RM. yarn.resourcemanager.scheduler.address Master:8030 The address of the scheduler interface,in order for the RM to obtain the resource from scheduler yarn.resourcemanager.resource-tracker.address Master:8031 The address of the resource tracker interface for the nodeManagers yarn.resourcemanager.admin.address Master:8033 The address for admin manager yarn.resourcemanager.webapp.address Master:8088 The address of the RM web application.
5、hadoop-env.sh     (增加JDK的安装目录)

export JAVA_HOME=/usr/java/jdk1.7.0_79

6、yarn-env.sh     (增加JDK的安装目录)

export JAVA_HOME=/usr/java/jdk1.7.0_79

7、slaves

Slave1 Slave2

六、配置Hadoop的环境变量

sudo gedit /etc/profile

set hadoop path

export HADOOP_HOME=/usr/hadoop export PATH=$PATH :$HADOOP_HOME/bin

七、克隆两台虚拟机,配置好网络。192.168.10.111   192.168.10.112
八、互相ping ip地址,看是否可以ping通。互相 ssh ip地址,看是否可以免密码登陆。
九、回到Master的主机,切换到Hadoop的目录下执行

[hadoop@Master hadoop]$ bin/hadoop namenode -format [hadoop@Master hadoop]$ bin/start-all.sh

十、打开浏览器,输入 192.168.10.110:50075
看是否有两个节点。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


linux下开机自启: 在/etc/init.d目录下新建文件elasticsearch 并敲入shell脚本: 注意, 前两行必须填写,且要注释掉。 第一行为shell前行代码,目的告诉系统使用shell。 第二行分别代表运行级别、启动优先权、关闭优先权,且后面添加开机服务会用到。 shell脚本
1、因为在centos7中/etc/rc.d/rc.local的权限被降低了,所以需要赋予其可执行权 chmod +x /etc/rc.d/rc.local 2、赋予脚本可执行权限假设/usr/local/script/autostart.sh是你的脚本路径,给予执行权限 chmod +x /usr
最简单的查看方法可以使用ls -ll、ls-lh命令进行查看,当使用ls -ll,会显示成字节大小,而ls- lh会以KB、MB等为单位进行显示,这样比较直观一些。 通过命令du -h –max-depth=1 *,可以查看当前目录下各文件、文件夹的大小,这个比较实用。 查询当前目录总大小可以使用d
ASP.NET Core应用程序发布linux在shell中运行是正常的。可一但shell关闭网站也就关闭了,所以要配置守护进程, 用的是Supervisor,本文主要记录配置的过程和过程遇到的问题 安装Supervisor 1 yum install python-setuptools
设置时区(CentOS 7) 先执行命令timedatectl status|grep 'Time zone'查看当前时区,如果不是时区(Asia/Shanghai),则需要先设置为中国时区,否则时区不同会存在时差。 #已经是Asia/Shanghai,则无需设置 [root@xia
vim /etc/sysconfig/network-scripts/ifcfg-eth0 BOOTPROTO="static" ONBOOT=yes IPADDR=192.168.8.106 NETMASK=255.255.252.0 GATEWAY=192.168.
一、安装gcc依赖 由于 redis 是用 C 语言开发,安装之前必先确认是否安装 gcc 环境(gcc -v),如果没有安装,执行以下命令进行安装 [root@localhost local]# yum install -y gcc 二、下载并解压安装包 [root@localhost local
第一步 On CentOS/RHEL 6.*: $ sudo rpm -Uvh http://li.nux.ro/download/nux/dextop/el6/x86_64/nux-dextop-release-0-2.el6.nux.noarch.rpm On CentOS/RHEL 7: $
/// <summary> /// 取小写文件名后缀 /// </summary> /// <param name="name">文件名</param> /// <returns>返回小写后缀,不带“.”</ret
which nohup .bash_profile中并source加载 如果没有就安装吧 yum provides */nohup nohup npm run start & nohup ./kibana &
1.1 MySQL安装 1.1.1 下载wget命令 yum -y install wget 1.1.2 在线下载mysql安装包 wget https://dev.mysql.com/get/mysql57-community-release-el7-8.noarch.rpm 1.1.3 安装My
重启 reboot shutdown -r now init 6 关闭 init 0 shutdown -h now shutdown -h 20:25 #8点25关机查看内存 free CPU利用率 top 日期 date 设置时间 date 033017002015 #月日时间年 日历 cal
1、firewalld的基本使用 启动: systemctl start firewalld 关闭: systemctl stop firewalld 查看状态: systemctl status firewalld 开机禁用 : systemctl disable firewalld 开机启用 :
1 下载并安装MySQL官方的 Yum Repository wget -i -c http://dev.mysql.com/get/mysql57-community-release-el7-10.noarch.rpm 使用上面的命令就直接下载了安装用的Yum Repository,大概
CentOS6.x CentOS6中转用Upstrat代替以前的init.d/rcX.d的线性启动方式。 一、相关命令 通过initctl help可以查看相关命令 [root@localhost ~]# initctl help Job commands: start Start job. sto
1、使用命令:df -lk 找到已满磁盘 2、使用命令:du --max-depth=1 -h 查找大文件,删除
ifconfig:查看网卡信息 网卡配置文件位置: /etc/sysconfig/network-scripts/文件夹 nmtui:配置网卡 netstat -tlunp:查看端口信息 端口信息存储位置: /etc/services文件 route:查看路由信息 wget:下载网路文件,例如 wg
ps -ef:查看所有进程, ps -ef |grap firewalld 查看与firewalld相关的进程 which :查看进程:which firewalld kill 进程id:杀掉进程 kill 640,强制杀:kill -9 640 man:查看帮助,例如 man ps 查看
useradd:添加用户 useradd abc,默认添加一个abc组 vipw:查看系统中用户 groupadd:添加组groupadd ccna vigr:查看系统中的组 gpasswd:将用户abc添加到ccna组 gpasswd -a abc ccna groups abc:查看用户abc属