Linux下图示安装Hadoop-2.8.5(单机版)

Linux下图示安装Hadoop-2.8.5(单机版)

2018年10月25日 23:24:46  阅读数 1454更多 分类专栏: Linux学习 软件工具 Hadoop  

前言:Hadoop2.x的四个模块.Hadoop Common,Hadoop HDFS,Hadoop MapReduce,Hadoop YARN.Centos7的版本。

一:Hadoop的的的下载。

       1. 官网

       2.版本。

 分为源码和二进制的。这里下载二进制的。这里是简单学习使用的是阿帕奇的版本。

3.下载的Hadoop。

wget XXX.tar.gz

 4.加压到指定的目录下。

 tar -zxvf XXX.tar.gz -C / usr / local 

5. Hadoop目录结构。

6.查看的Hadoop的版本。(记得配置环境的Hadoop的环境变量)。

   cd bin

   Hadoop的版本

二.Hadoop环境配置。

   1. Java环境配置。(使用Java8的版本)   

  Hadoop的的是Java的的开发的大数据框架,因此首先要准备好Java的的的环境。这个就不介绍了。注意一下配置文件。

  cat / etc / profile

  2.配置的Hadoop的环境变量。

 vim / etc / profile

 export HAOOP_HOME = / usr / local / hadoop-2.8.5

 export PATH = $ PATH:$ HADOOP_HOME / bin

vim httpfs-env.sh

查看Hadoop HDFS支持的所有命令。

3.查看防火墙和关闭SELinux的。

   firewall-cmd --state 

 cat / etc / selinux / config

4.修改配置文件。(这里就直接使用自己Linux的IP了,就不配置域名了).etc / hosts

    在修改配置文件前,先创建一下几个目录。

    mkdir / root / hadoop

    mkdir / root / hadoop / tmp

    mkdir / root / hadoop / var

    mkdir / root / hadoop / dfs

    mkdir / root / hadoop / dfs / name

    mkdir / root / hadoop / dfs / data

    然后是依次修改下面一个XML文件。

    cd /usr/local/hadoop-2.8.5/etc/hadoop

    vim core-site.xml

  1.   <configuration>
  2.   <property>
  3.   <name>hadoop.tmp.dir</name>
  4.   <value>/root/hadoop/tmp</value>
  5.   <description>Abase for other temporary directories.</description>
  6.   </property>
  7.   <property>
  8.   <name>fs.default.name</name>
  9.   <value>hdfs://192.168.217.134:9000</value>
  10.   </property>
  11.   </configuration>

   接下来就是vim hdfs-site.xml

  1.   <configuration>
  2.   <property>
  3.   <name>dfs.name.dir</name>
  4.   <value>/root/hadoop/dfs/name</value>
  5.   <description>Path on the local filesystem where theNameNode stores the namespace and transactions logs persistently.</description>
  6.   </property>
  7.   <property>
  8.   <name>dfs.data.dir</name>
  9.   <value>/root/hadoop/dfs/data</value>
  10.   <description>Comma separated list of paths on the localfilesystem of a DataNode where it should store its blocks.</description>
  11.   </property>
  12.   <property>
  13.   <name>dfs.http.address</name>
  14.   <value>192.168.217.134:50070</value>
  15.   </property>
  16.   <property>
  17.   <name>dfs.replication</name>
  18.   <value>1</value>
  19.   </property>
  20.   <property>
  21.   <name>dfs.namenode.secondary.http-address</name>
  22.   <value>192.168.217.134:50090</value>
  23.   </property>
  24.   <property>
  25.   <name>dfs.permissions</name>
  26.   <value>true</value>
  27.   <description>need not permissions</description>
  28.   </property>
  29.   </configuration>

dfs.permissions配置为假后,可以允许不要检查权限就生成DFS上的文件,方便倒是方便了,但是你需要防止误删除,请将它设置为真,或者直接将该属性节点删除,因为默认就是真正。

接下来是:

vim mapred-site.xml(没有那个mapred-site.xml文件就触摸mapred-site.xml)。

  1.   <configuration>
  2.   <property>
  3.   <name>mapred.job.tracker</name>
  4.   <value>192.168.217.134:9001</value>
  5.   </property>
  6.   <property>
  7.   <name>mapred.local.dir</name>
  8.   <value>/root/hadoop/var</value>
  9.   </property>
  10.   <property>
  11.   <name>mapreduce.framework.name</name>
  12.   <value>yarn</value>
  13.   </property>
  14.   </configuration>

 三.Hadoop启动。

     1.第一次启动时要初始化,格式化的NameNode。

    cd bin

   ./hdfs namenode -format 

    2.切换sbin目录目录下。

    cd ..

    cd sbin

    sh start-dfs.sh(需要输入用户名,分别是启动namenode)。

    sh start-yarn.sh

  

 JPS

浏览器访问如下:

关闭HDFS和纱线:

遇到启动问题可以看一看启动日志吧。

重新格式化名称节点之前需要清空DFS下的名称和数据文件夹以解决数据节点无法启动的问题。

cat hadoop-root-datanode-localhost.localdomain.out.1
cat hadoop-root-namenode-localhost.localdomain.log

至此完成的的Linux下的的Hadoop的安装。

原文地址:https://www.cnblogs.com/flyshaodq/p/11526930.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


hadoop搭建准备工作三台虚拟机:master、node1、node2检查时间是否同步:date检查java的jdk是否被安装好:java-version修改主机名三台分别执行vim/etc/hostname并将内容指定为对应的主机名 关闭防火墙:systemctlstopfirewalld   a.查看防火墙状态:systemctlstatu
文件的更名和移动:    获取文件详细信息       遇到的问题:不能直接在web上上传文件。   权限问题:修改后即可正常创建  参考:https://blog.csdn.net/weixin_44575660/article/details/118687993
目录一、背景1)小文件是如何产生的?2)文件块大小设置3)HDFS分块目的二、HDFS小文件问题处理方案1)HadoopArchive(HAR)2)Sequencefile3)CombineFileInputFormat4)开启JVM重用5)合并本地的小文件,上传到HDFS(appendToFile)6)合并HDFS的小文件,下载到本地(getmerge)三、HDFS小文件问题处理实战操
目录一、概述二、HadoopDataNode多目录磁盘配置1)配置hdfs-site.xml2)配置详解1、dfs.datanode.data.dir2、dfs.datanode.fsdataset.volume.choosing.policy3、dfs.datanode.available-space-volume-choosing-policy.balanced-space-preference-fraction4、dfs.datanode.available
平台搭建(伪分布式)伪分布式搭建在VM中搭建std-master修改配置文件centos7-cl1.vmdkstd-master.vmx-将配置文件中vm的版本号改成自己电脑对应的vm版本修改客户端的操作系统为centos764位打开虚拟机修改虚拟机网络cd/etc/sysconfigetwork-scripts
 一、HDFS概述 1.1、HDFS产出背景及定义 1.1.1、HDFS产生背景   随着数据量越来越大,在一个操作系统存不下所有的数据,那么就分配到更多的操作系统管理的磁盘中,但是不方便管理和维护,迫切需要一种系统来管理多台机器上的文件,这就是分布式文件管理系统。HDFS只是分布式
配置workers进入hadoop/etc/hadoop  编辑workers文件  然后分发给另外两个服务器     准备启动集群第一次需要初始化.  初始化完成后增加了data文件,  进入上面那个路径,就能看到当前服务器的版本号  启动HDFS  启动完毕102  
这周我对ssm框架进行了更深一步的开发,加入了多用户,并对除登录外的请求进行了拦截,这样用户在未登录的时候是访问不到资源的。并且对hadoop进行了初步的学习,包括虚拟机的安装等等。下周会对hadoop进行更深一步的学习,加油! 
前言通过在Hadoop1安装Hadoop,然后配置相应的配置文件,最后将Hadoop所有文件同步到其他Hadoop节点。一、集群规划#主机名‘master/hadoop1’‘slave01/hadoop2’‘slave02/hadoop3’#启动节点NamenodeNodemanagerNodemanager
1.先杀死进程(先进入到hadoop版本文件里,我的是/opt/module/hadoop-3.1.3/)sbin/stop-dfs.sh2.删除每个集群上的data以及logsrm-rfdata/logs/3.格式化hdfsnamenode-format4.再启动sbin/sart-dfs.sh
查看文件目录的健康信息执行如下的命令:hdfsfsck/user/hadoop-twq/cmd可以查看/user/hadoop-twq/cmd目录的健康信息:其中有一个比较重要的信息,就是Corruptblocks,表示损坏的数据块的数量查看文件中损坏的块(-list-corruptfileblocks)[hadoop-twq@master~]
titlecopyrightdatetagscategoriesHadoop2.8.0的环境搭建true2019-08-0912:12:44-0700LiunxHadoopLiunxHadoop此文为在centos7下安装Hadoop集群前期准备Hadoop下载Hadoop的下载本文下载的是2.8.0版本的Hadoop安装3个虚拟机并实现ssh免密码的登录
这是我的地图publicstaticclassMapClassextendsMapper<LongWritable,Text,Text,Text>{publicvoidmap(LongWritablekey,Textvalue,Contextcontext)throwsIOException,InterruptedException{String[]fields=value.toString().s
组件:Hadoop三大核心组件:HDFS(HadoopDistributedFileSystem):分布式文件系统,数据存放在这里,提供对应用程序数据的高吞吐量访问。YARN(YetAnotherResourceNegotiator):资源管理调度系统,分配比如硬盘内存等资源。用这些资源来运行程序的计算MapReduce:分布式运算框架
查看Hadoop安全模式hadoopdfsadmin-safemodegetSafemodeisOFF进入Hadoop安全模式root@centos:/$hadoopdfsadmin-safemodeenter SafemodeisON推出安全模式nange@ubuntu:/$hadoopdfsadmin-safemodeleave SafemodeisOFF
当我尝试运行sqoop命令时,我收到错误,说没有连接字符串的管理器我尝试运行的内容:sqoopexport--connect"jdbc:vertica://xxxxxxxx.com:5433/PPS_GIIA"--usernamexxxxx--passwordxxxxx--tableCountry-m1--export-dir/Eservices/SIPOC/SQLimport/part-m-0000--
好程序员大数据学习路线Hadoop学习干货分享,ApacheHadoop为可靠的,可扩展的分布式计算开发开源软件。ApacheHadoop软件库是一个框架,它允许使用简单的编程模型跨计算机群集分布式处理大型数据集(海量的数据)。包括这些模块:HadoopCommon:支持其他Hadoop模块的常用工具。Hadoop
我正在使用java,我正在尝试编写一个mapreduce,它将接收一个包含多个gz文件的文件夹.我一直在寻找,但我发现的所有教程都放弃了如何处理简单的文本文件,但没有找到解决我问题的任何东西.我在我的工作场所问过,但只提到scala,我并不熟悉.任何帮助,将不胜感激.解决方法:Hadoop检查
linux下开机自启:在/etc/init.d目录下新建文件elasticsearch并敲入shell脚本:#!/bin/sh#chkconfig:23458005#description:elasticsearchexportJAVA_HOME=/home/hadoop/jdk/jdk1.8.0_172exportJAVA_BIN=/home/hadoop/jdk/jdk1.8.0_172/binexportPATH=$PATH:$JAVA_HOME/bi
离线数据处理的主要工具Hive是必须极其熟练地掌握和精通的,但Hive背后是Hadoop的HDFS和M叩Reduce,需要会MapReduce编程么?从笔者的工作实践以及了解来看,这不是必须掌握的,但是数据开发人员必须掌握其概念、架构和工作原理,也就是说,不但要知其然,而且要知其所以然。1.起源