hadoop的简单安装部署过程-创新互联

hadoop的简单安装部署过程

创新互联专注于企业营销型网站建设、网站重做改版、潜山网站定制设计、自适应品牌网站建设、HTML5商城网站开发、集团公司官网建设、成都外贸网站制作、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为潜山等各大城市提供网站开发制作服务。

为了做些实验,所以在自己笔记本电脑上装了个虚拟机,系统为CentOS6.2,JDK1.7,hadoop-1.0.1

为了简单起见,部署伪分布式,即仅有一个节点,这个节点既是Master,也是Slave,既是NameNode,也是DataNode,既是JobTracker,也是TaskTracker。

部署总体说明:

伪分布式部署比较简单,只需要搞定4个配置文件即可,分别是:

1.hadoop-env.sh      //用以指定JDK的位置

2.core-site.xml   //核心配置,用以指定HDFS地址及端口号

3.hdfs-site.xml   //HDFS配置,可以指定备份数量,默认为3,伪分布式需要配置为1

4.mapred-site.xml    //用以配置JboTracker的地址及端口

配置完上述文件之后,还差两步:

1.格式化HDFS文件系统

2.启动并验证

正式开始:

1.配置hadoop-env.sh

由于忘记了JDK的位置,用java -verbose查了一下,找到/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

因此,在hadoop-env.sh中写入如下一行(其实可以找到指定位置,读者可以自己发现)

export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk-1.7.0.85.x86_64/jre

2.配置core-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

      <property>

             <name>fs.default.name</name>

             <value>hdfs://localhost:9000</value>

      </property>

</configuration>

//说明:其实其他部分已经有了,只需要自己敲入黑色加粗部分就可以了

3.配置hdfs-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

      <property>

             <name>dfs.replication</name>

             <value>1</value>

      </property>

</configuration>

4.配置mapred-site.xml

<?xmlversion="1.0"?>

<?xml-stylesheettype="text/xsl" href="configuration.xsl"?>

<!-- Putsite-specific property overrides in this file. -->

<configuration>

      <property>

             <name>mapred.job.tracker</name>

             <value>localhost:9001</value>

      </property>

</configuration>

进入最后两步:

1.格式化hdfs

[root@wjz hadoop]# cd /usr/local/hadoop/bin   //进入hadoop的可执行文件bin目录

[root@wjz bin]# ./hadoop namenode -format  //执行格式化命令

2.启动并验证

[root@wjz bin]# ./start-all.sh

打开浏览器验证,分别输入如下网址:

http://localhost:50030           (MapReduce的WEB页面)

http://localhost:50070           (HDFS的WEB页面)

----搞定,OK了

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。

网站标题:hadoop的简单安装部署过程-创新互联
网页地址:https://www.cdcxhl.com/article16/docpdg.html

成都网站建设公司_创新互联,为您提供网站导航网站维护网站排名App设计外贸建站标签优化

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联

成都网页设计公司