如何进行Hadoop安装部署？

本节接着上节向大家介绍一下Hadoop安装部署步骤，主要内容有Hadoop环境变量，Hadoop配置文件，Hadoop的部署以及启动等相关操作，欢迎大家一起来学习Hadoop安装部署方面的知识。下面是具体步骤介绍。

为康县等地区用户提供了全套网页设计制作服务，及康县网站建设行业解决方案。主营业务为成都网站制作、成都网站设计、康县网站设计，以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！

1.Hadoop环境变量

在/home/dbrg/HadoopInstall/hadoop-conf目录下的hadoop_env.sh中设置Hadoop需要的环境变量，其中JAVA_HOME是必须设定的变量。HADOOP_HOME变量可以设定也可以不设定，如果不设定，HADOOP_HOME默认的是bin目录的父目录，即本文中的/home/dbrg/HadoopInstall/hadoop。我的是这样设置的
exportHADOOP_HOME=/home/dbrg/HadoopInstall/hadoop
exportJAVA_HOME=/usr/java/jdk1.6.0
从这个地方就可以看出前面所述的创建hadoop0.12.0的链接hadoop的优点了，当以后更新hadoop的版本的时候，就不需要在改配置文件，只需要更改链接就可以了。

2.Hadoop配置文件
如前所述，在hadoop-conf/目录下，打开slaves文件，该文件用来指定所有的从节点，一行指定一个主机名。即本文中的dbrg-2，dbrg-3，因此slaves文件看起来应该是这样的
dbrg-2
dbrg-3
在conf/目录中的hadoop-default.xml中包含了Hadoop的所有配置项，但是不允许直接修改！可以在hadoop-conf/目录下的hadoop-site.xml里面定义我们需要的项，其值会覆盖hadoop-default.xml中的默认值。可以根据自己的实际需要来进行定制。以下是我的配置档：

 
 
 
  
  
   
  
  
   
  
  
   
  
  
   
  
  
   
  
  
  fs.default.name 
  
  
  dbrg-1:9000 
  
  
  Thenameofthedefaultfilesystem.Eithertheliteralstring"local"orahost:portforDFS. 
  
  
   
  
  
   
  
  
  mapred.job.tracker 
  
  
  dbrg-1:9001 
  
  
  ThehostandportthattheMapReducejobtrackerrunsat.If"local",thenjobsarerunin-processasasinglemapandreducetask. 
  
  
   
  
  
   
  
  
  hadoop.tmp.dir 
  
  
  /home/dbrg/HadoopInstall/tmp 
  
  
  Abaseforothertemporarydirectories. 
  
  
   
  
  
   
  
  
  dfs.name.dir 
  
  
  /home/dbrg/HadoopInstall/filesystem/name 
  
  
  DetermineswhereonthelocalfilesystemtheDFSnamenodeshouldstorethenametable.
  
  
  Ifthisisacomma-delimitedlistofdirectoriesthenthenametableisreplicatedinallofthedirectories,forredundancy. 
  
  
   
  
  
   
  
  
  dfs.data.dir 
  
  
  /home/dbrg/HadoopInstall/filesystem/data 
  
  
  DetermineswhereonthelocalfilesystemanDFSdatanodeshouldstoreitsblocks.Ifthisisacomma-delimitedlistofdirectories,
  
  
  thendatawillbestoredinallnameddirectories,typicallyondifferentdevices.Directoriesthatdonotexistareignored. 
  
  
   
  
  
   
  
  
  dfs.replication 
  
  
  1 
  
  
  Defaultblockreplication.Theactualnumberofreplicationscanbespecifiedwhenthefileiscreated.
  
  
  Thedefaultisusedifreplicationisnotspecifiedincreatetime.

3.部署Hadoop

前面Hadoop安装部署过程中讲的这么多Hadoop的环境变量和配置文件都是在dbrg-1这台机器上的，现在需要将hadoop部署到其他的机器上，保证目录结构一致。
[dbrg@dbrg-1:~]$scp-r/home/dbrg/HadoopInstalldbrg-2:/home/dbrg/
[dbrg@dbrg-1:~]$scp-r/home/dbrg/HadoopInstalldbrg-3:/home/dbrg/
至此，可以说，Hadoop已经在各个机器上部署完毕了下面就让我们开始启动Hadoop吧

4.启动Hadoop

Hadoop安装部署完成后需要启动Hadoop。启动之前，我们先要格式化namenode，先进入~/HadoopInstall/hadoop目录，执行下面的命令
[dbrg@dbrg-1:hadoop]$bin/hadoopnamenode-format
不出意外，应该会提示格式化成功。如果不成功，就去hadoop/logs/目录下去查看日志文件
下面就该正式启动hadoop啦，在bin/下面有很多启动脚本，可以根据自己的需要来启动。
*start-all.sh启动所有的Hadoop守护。包括namenode,datanode,jobtracker,tasktrack
*stop-all.sh停止所有的Hadoop
*start-mapred.sh启动Map/Reduce守护。包括Jobtracker和Tasktrack
*stop-mapred.sh停止Map/Reduce守护
*start-dfs.sh启动HadoopDFS守护.Namenode和Datanode
*stop-dfs.sh停止DFS守护
在这里，简单启动所有守护
[dbrg@dbrg-1:hadoop]$bin/start-all.sh
同样，如果要停止hadoop，则
[dbrg@dbrg-1:hadoop]$bin/stop-all.sh

HDFS操作
运行bin/目录的hadoop命令，可以查看Haoop所有支持的操作及其用法，这里以几个简单的操作为例。

建立目录
[dbrg@dbrg-1:hadoop]$bin/hadoopdfs-mkdirtestdir
在HDFS中建立一个名为testdir的目录

复制文件
[dbrg@dbrg-1:hadoop]$bin/hadoopdfs-put/home/dbrg/large.ziptestfile.zip
把本地文件large.zip拷贝到HDFS的根目录/user/dbrg/下，文件名为testfile.zip

查看现有文件
[dbrg@dbrg-1:hadoop]$bin/hadoopdfs-ls。本节关于Hadoop安装部署的内容就介绍到这里了。

【编辑推荐】

Hadoop安装部署简明步骤详解
Hadoop开源已经实现
Hadoop集群与Hadoop性能优化
Hadoop 从Yahoo向Google的技术转折
Yahoo公布Hadoop的源代码

新闻名称：如何进行Hadoop安装部署？
分享URL：http://www.shufengxianlan.com/qtweb/news42/534542.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源：创新互联

猜你还喜欢下面的内容