hive中orderby,distributeby,sortby,clusterby怎么用

这篇文章主要介绍hive中order by,distribute by,sort by,cluster by怎么用，文中介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们一定要看完！

成都创新互联公司长期为数千家客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为奉化企业提供专业的成都网站建设、网站制作，奉化网站改版等技术服务。拥有十载丰富建站经验和众多成功案例,为您定制开发。

order by,distribute by,sort by,cluster by  查询使用说明

// 根据年份和气温对气象数据进行排序，以确保所有具有相同年份的行最终都在一个reducer分区中 

// 一个reduce(海量数据,速度很慢)
select year, temperature
order by year asc, temperature desc
limit 100;  


// 多个reduce(海量数据,速度很快)
select year, temperature  
distribute by year  
sort by year asc, temperature desc
limit 100;

order by  (全局排序 )
order by 会对输入做全局排序，因此只有一个reducer（多个reducer无法保证全局有序）
只有一个reducer，会导致当输入规模较大时，需要较长的计算时间。

在hive.mapred.mode=strict模式下，强制必须添加limit限制，这么做的目的是减少reducer数据规模
例如，当限制limit 100时， 如果map的个数为50， 则reducer的输入规模为100*50



distribute by  (类似于分桶)
根据distribute by指定的字段对数据进行划分到不同的输出reduce 文件中。


sort by   (类似于桶内排序)
sort by不是全局排序，其在数据进入reducer前完成排序。
因此，如果用sort by进行排序，并且设置mapred.reduce.tasks>1， 则sort by只保证每个reducer的输出有序，不保证全局有序。



cluster by
cluster by 除了具有 distribute by 的功能外还兼具 sort by 的功能。 
但是排序只能是倒序排序，不能指定排序规则为asc 或者desc。

因此，常常认为cluster by = distribute by + sort by

以上是“hive中order by,distribute by,sort by,cluster by怎么用”这篇文章的所有内容，感谢各位的阅读！希望分享的内容对大家有帮助，更多相关知识，欢迎关注创新互联行业资讯频道！

新闻标题：hive中orderby,distributeby,sortby,clusterby怎么用
文章转载：http://mswzjz.cn/article/jjjegj.html