getConf与newConfiguration怎么配置

本篇内容主要讲解“getConf与new Configuration怎么配置”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“getConf与new Configuration怎么配置”吧!

成都创新互联:于2013年成立为各行业开拓出企业自己的“网站建设”服务,为数千家公司企业提供了专业的网站设计、成都网站建设、网页设计和网站推广服务, 按需定制设计由设计师亲自精心设计,设计的效果完全按照客户的要求,并适当的提出合理的建议,拥有的视觉效果,策划师分析客户的同行竞争对手,根据客户的实际情况给出合理的网站构架,制作客户同行业具有领先地位的。

#getConf
所有的配置都通过命令的形式,此种情况下支持-files

sudo -uwirelessdev hadoop jar  \
/home/q/script/mods/mrjob/mods-1.0-SNAPSHOT-jar-with-dependencies.jar  \
-files /home/q/script/mods/mrjob/mods.acid   \
-D mapreduce.job.queuename=wirelessdev   \
-D mapreduce.job.priority=VERY_HIGH   \
-D mapreduce.map.memory.mb=8192   \
-D mapreduce.map.java.opts='-Xmx8192M'   \
-D mapreduce.reduce.memory.mb=8192  \
-D mapreduce.reduce.java.opts='-Xmx8192M'   \
-D mapreduce.job.reduces=100    \
-D mapred.reduce.tasks=100   \
-D mapreduce.job.name=mods_firstjob_leofei.li   \
/user/wirelessdev/marmot_warehouse/ods/ods_modss_frame/dt=2016-07-13/platform=Ios-pad/*  \
/user/wirelessdev/leofei.li/firstjob

#new Configuration 配置项通过代码进行配置,此时,通过命令行的配置项会失效

Configuration conf =new Configuration();
conf.set("fs.defaultFS","hdfs://qunarcluster");
conf.set("mapreduce.job.queuename","wirelessdev");
conf.set("mapreduce.job.reduces","100");
conf.set("mapreduce.job.priority","VERY_HIGH");
conf.set("mapreduce.map.memory.mb","8192");
conf.set("mapreduce.map.java.opts","-Xmx8192M");
conf.set("mapreduce.reduce.memory.mb","8192");
conf.set("mapreduce.reduce.java.opts","-Xmx8192M");

该情况下不支持-files,需要使用DistributedCache,默认hdfs路径

DistributedCache.addCacheFile(new Path("/user/wirelessdev/leofei.li/conf/mods.acid").toUri(), conf);

#推荐

Configuration conf =  getConf();        conf.set("mapreduce.job.queuename","wirelessdev");
Job job = Job.getInstance(conf,"mods_firstjob_leofei.li");

到此,相信大家对“getConf与new Configuration怎么配置”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

分享题目:getConf与newConfiguration怎么配置
链接分享:https://www.cdcxhl.com/article6/pjdoig.html

成都网站建设公司_创新互联,为您提供营销型网站建设外贸网站建设软件开发虚拟主机静态网站搜索引擎优化

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联

小程序开发