怎么运行MapReduce

这篇文章主要讲解了“怎么运行MapReduce”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“怎么运行MapReduce”吧！

创新互联建站主要从事网站建设、做网站、网页设计、企业做网站、公司建网站等业务。立足成都服务百色,十余年网站建设经验,价格优惠、服务专业,欢迎来电咨询建站服务:18980820575

运行MapReduce

代码打jar包，不要包含依赖，使用maven的默认打包工具就行

# ls hdfs的目录
hadoop dfs -ls /user/hadoop/
# 删除output 目录
hadoop dfs rm -f -r /user/hadoop/output
# 新建input
hadoop dfs -mkdir -p /user/hadoop/input
# 从本地文件系统copy 数据到hdfs
hadoop dfs -put input_bak/sample.txt /user/hadoop/input
# 运行 mapreduce
hadoop jar hadoopdemo.jar MaxTemperature input/sample.txt output
# 查看结果
hadoop dfs -get /usr/hadoop/output /home/hadoop/
cd /home/hadoop/output
more part-r-00000

##采坑

• hadoop 2.x hadoop 3.x API变化大，不兼容

• hadoop 配置 mapred-site.xml

• 数据文件要上传到hdfs

• 额，hdfs 常用命令

      （1）查看帮助
          hdfs dfs -help 
      （2）查看当前目录信息
          hdfs dfs -ls /
          
      （3）上传文件
          hdfs dfs -put /本地路径 /hdfs路径
          
      （4）剪切文件
          hdfs dfs -moveFromLocal a.txt /aa.txt
          
      （5）下载文件到本地
          hdfs dfs -get /hdfs路径 /本地路径
          
      （6）合并下载
          hdfs dfs -getmerge /hdfs路径文件夹 /合并后的文件
          
      （7）创建文件夹
          hdfs dfs -mkdir /hello
          
      （8）创建多级文件夹
          hdfs dfs -mkdir -p /hello/world
          
      （9）移动hdfs文件
          hdfs dfs -mv /hdfs路径 /hdfs路径
          
      （10）复制hdfs文件
          hdfs dfs -cp /hdfs路径 /hdfs路径
          
      （11）删除hdfs文件
          hdfs dfs -rm /aa.txt
          
      （12）删除hdfs文件夹
          hdfs dfs -rm -r /hello
          
      （13）查看hdfs中的文件
          hdfs dfs -cat /文件
          hdfs dfs -tail -f /文件
          
      （14）查看文件夹中有多少个文件
          hdfs dfs -count /文件夹
          
      （15）查看hdfs的总空间
          hdfs dfs -df /
          hdfs dfs -df -h /
          
      （16）修改副本数    
          hdfs dfs -setrep 1 /a.txt

感谢各位的阅读，以上就是“怎么运行MapReduce”的内容了，经过本文的学习后，相信大家对怎么运行MapReduce这一问题有了更深刻的体会，具体使用情况还需要大家实践验证。这里是创新互联，小编将为大家推送更多相关知识点的文章，欢迎关注！

网站标题：怎么运行MapReduce
文章出自：https://www.cdcxhl.com/article38/ijhesp.html

成都网站建设公司_创新互联，为您提供网站制作、品牌网站制作、定制网站、微信小程序、微信公众号、网页设计公司

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联