shuffle和mapshuffle有什么区别

这篇文章将为大家详细讲解有关shuffle和map shuffle有什么区别，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。

为企业提供成都网站设计、成都网站制作、外贸网站建设、网站优化、成都全网营销推广、竞价托管、品牌运营等营销获客服务。创新互联建站拥有网络营销运营团队，以丰富的互联网营销经验助力企业精准获客，真正落地解决中小企业营销获客难题，做到“让获客更简单”。自创立至今，成功用技术实力解决了企业“网站建设、网络品牌塑造、网络营销”三大难题，同时降低了营销成本，提高了有效客户转化率，获得了众多企业客户的高度认可！

普通shuffle结构图：

• 不同表由不同的map完成，shuffle把条件相等的key分发到reduce task上去执行

• join等于是在reduce阶段完成

缺点：
成本高且效率慢，所有的数据都需要shuffle去完成

map shuffle结构图：

• mapjoin: join是发生在map阶段，无shuffle

• mapjoin使用前提：大表 join 小表(小表有大小限制 maximum；hive元数据判断大小表)

• 本地的map task读取小表的数据生成HashTable File,然后upload到分布式缓存里.

• 完成本地map task小表后，启动Mapjoin task作业读取大表数据，每条数据和缓存里数据进行匹配

关于“shuffle和map shuffle有什么区别”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。

分享标题：shuffle和mapshuffle有什么区别
网站URL：https://www.cdcxhl.com/article46/jcpehg.html

成都网站建设公司_创新互联，为您提供网站改版、网站设计、网站建设、App开发、域名注册、网站制作

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联