博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
centos7安装hadoop2.6.1,详细教程
阅读量:4625 次
发布时间:2019-06-09

本文共 3820 字,大约阅读时间需要 12 分钟。

1.我搭建的是三台centos7的环境 首先准备三个centos7(文中出现的所有的链接都是我自己的)

  centos7下载地址(也可以上官网自行下载):https://pan.baidu.com/s/1Y_EVLDuLwpKv2hU3HSiPDA 提取码:05mi

2.安装完成后需要修改ip,都改为静态的ip

  vi /etc/sysconfig/network-scripts/ifcfg-ens33(有可能不是ifcfg-ens33,自行判断),以下是我的配置,你们可以参考下

      需要修改的配置 : BOOTPROTO="dhcp"  修改为 BOOTPROTO="static"

   需要添加的属性:

  

ONBOOT=yes #开机自动启用网络连接 IPADDR=192.168.111.10 # 静态ip地址 NETMASK=255.255.255.0 #设置子网掩码 GATEWAY=192.168.111.2 #设置网关 (网关查看步骤,vmware workstation==》编辑==》虚拟网络编辑器==》点VMnet8模式==》NAT设置==》网关IP)DNS1=119.29.29.29  #设置主DNS DNS2=210.2.4.8 #设置备DNS

 

   三台虚拟机都需要配置 我的三台机器是

 master:192.168.111.10  master

   slave1:192.168.111.11   slave1

   slave2:192.168.111.12   slave2

   设置完毕重启网卡systemctl restart network

 curl www.baidu.com  返回正常即可

3.修改hostname

  https://www.cnblogs.com/zhangjiahao/p/10990093.html

4.安装java环境(jdk)

  https://www.cnblogs.com/zhangjiahao/p/8551362.html

5.配置多个虚拟机互信(免密登录)

  https://www.cnblogs.com/zhangjiahao/p/10989245.html

6.安装配置hadoop

  (1)下载

  链接:https://pan.baidu.com/s/1m0IXN1up0nk2rxDUMgEC-g

       提取码:mhxa

   (2)上传解压

  rz  选择你的文件进行上传

    tar -zxvf 刚才上传的包进行解压

   (3)配置

       打开hadoop下的etc/hadoop  找到hadoop-env.sh和yarn-env.sh 在里面添加JAVA_HOME=/usr/local/src/java1.8.0_172(你的jdk安装路径)

  编辑core-site.xml:

fs.default.name
hdfs://master:9000
hadoop.tmp.dir
file:/usr/local/src/hadoop-2.6.1/tmp

 

       编辑hdfs-site.xml:

dfs.namenode.secondary.http-address
master:9091
dfs.namenode.name.dir
file:/usr/local/src/hadoop-2.6.1/dfs/name
dfs.datanode.data.dir
file:/usr/local/src/hadoop-2.6.1/dfs/data
dfs.replication
3

 

  编辑mapred-site.xml:

mapreduce.framework.name
yarn

  编辑yarn-site.xml:

yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.aux-services.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
yarn.resourcemanager.address
master:8032
yarn.resourcemanager.scheduler.address
master:8030
yarn.resourcemanager.resource-tracker.address
master:8031
yarn.resourcemanager.admin.address
master:8033
yarn.resourcemanager.webapp.address
master:8088

7.将hadoop配置分发到各个节点

    scp -r hadoop2.6.1 root@slave1:/usr/local/src

    scp -r hadoop2.6.1 root@slave2:/usr/local/src

8.将环境变量的配置分发到各个节点

    scp -r /etc/profile root@slave1:/etc

    scp -r /etc/profile root@slave2:/etc

9.配置生效

   source /etc/profile

 10.在主节点初始化集群

    cd/hadoop2.6.1/sbin

    hadoop namenode -format

11.启动集群(./start-all.sh也行)

    ./start-dfs.sh    ./start-yarn.sh

12.输入jps命令查看集群是是否全部启动    

13.验证是否成功

 

  创建一个txt touch   1.txt

  给1.txt输入字  echo 123456 > 1.txt

  查看内容  cat 1.txt

  上传1.txt: hadoop fs -put 1.txt /

  hadoop fs -ls input  / 如果显示如下就说明上传成功:

        Found 1 items   *****你的文件信息

  

 

 

 

 

 

 

 

 

 

    

转载于:https://www.cnblogs.com/zhangjiahao/p/10992171.html

你可能感兴趣的文章
带CookieContainer进行post
查看>>
C语言学习笔记--字符串
查看>>
关于七牛进行图片添加文字水印操作小计
查看>>
DataSource数据库的使用
查看>>
Luogu4069 SDOI2016 游戏 树链剖分、李超线段树
查看>>
Java的内部类真的那么难以理解?
查看>>
一文搞懂Java环境,轻松实现Hello World!
查看>>
hash实现锚点平滑滚动定位
查看>>
也谈智能手机游戏开发中的分辨率自适应问题
查看>>
关于 IOS 发布的点点滴滴记录(一)
查看>>
《EMCAScript6入门》读书笔记——14.Promise对象
查看>>
CSS——水平/垂直居中
查看>>
Eclipse连接mysql数据库jdbc下载(图文)
查看>>
Python中Selenium的使用方法
查看>>
三月23日测试Fiddler
查看>>
20171013_数据库新环境后期操作
查看>>
SpringMVC中文件的上传(上传到服务器)和下载问题(二)--------下载
查看>>
Socket & TCP &HTTP
查看>>
osip及eXosip的编译方法
查看>>
Hibernate composite key
查看>>