标签：8.1 map 函数 分区 reduce 默认 任务 Maper

1.1.1         默认的map函数和reduce函数

（1）Maper和Reuducer默认类

如果没有指定maper类和reduce类，则会用默认的Maper和Reuducer类去处理数据。也可以显示的将处理类设置为Maper和Reducer类。默认的Maper类和reduce类是将输入原封不动的输出。Map任务的数量等于输入文件分块数。

（2）默认分区类

默认的partitioner是HashPartitioner,对每条记录的键进行哈希操作，决定该记录属于哪个分区，分区值由哈希值与最大的整型值做一次按位与操作，然后进行取模操作，一个分区由一个reduce处理，所以分区数等于作业的reduce任务个数。默认只有一个分区，partitioner作用就变得无关紧要，多个分区时，散列函数足够好，会将记录均匀的分到多个reduce任务中。Reduce任务多，并行化程度高，减少时间，但是小文件会变多。Reduce任务少，处理效率低。经验是reduce任务运行5分钟左右。

自己开发了一个股票智能分析软件，功能很强大，需要的点击下面的链接获取：

https://www.cnblogs.com/bclshuai/p/11380657.html

标签：8.1,map,函数,分区,reduce,默认,任务,Maper
来源： https://www.cnblogs.com/bclshuai/p/12242168.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。