Hadoop中的NLineInputFormat

一：背景

NLineInputFormat也是FileInputFormat的子类，它是根据行数来划分InputSplit的，而不是像TextInputFormat那样依赖分片大小和行的长度。也就是说，TextInputFormat当一行很长或分片很小时，获取的分片很可能只包含很少的K-V对，这样一个MapTask处理的K-V对就很少，这是不太理想的。因此我们可以使用NLineInputFormat来控制一个MapTask处理的K-V对，这是通过分割InputSplit时按行数分割的方法来实现的，关键是通过mapreduce.input.lineinputformat.linespermap来设置这个行数。

二：技术实现

代码如下：

/** * TextInputFormat处理的数据来自一个InputSplit，InputSplit是根据大小划分的。 * NLineInputFormat可以决定每个Mapper处理的记录数是相同的。 * @author 廖钟民 * time : 2015年1月15日下午8:40:43 * @version */public class MyNLineInputFormat {// 定义输入路径private static final String INPUT_PATH = "hdfs://liaozhongmin:9000/hello";// 定义输出路径private static final String OUT_PATH = "hdfs://liaozhongmin:9000/out";public static void main(String[] args) {try {// 创建配置信息Configuration conf = new Configuration();//设置每个Map可以是处理多少条记录conf.setInt("mapreduce.input.lineinputformat.linespermap", 2);/**********************************************///对Map端输出进行压缩//conf.setBoolean("mapred.compress.map.output", true);//设置map端输出使用的压缩类//conf.setClass("mapred.map.output.compression.codec", GzipCodec.class, CompressionCodec.class);//对reduce端输出进行压缩//conf.setBoolean("mapred.output.compress", true);//设置reduce端输出使用的压缩类//conf.setClass("mapred.output.compression.codec", GzipCodec.class, CompressionCodec.class);// 添加配置文件(我们可以在编程的时候动态配置信息，而不需要手动去改变集群)/* * conf.addResource("classpath://hadoop/core-site.xml");  * conf.addResource("classpath://hadoop/hdfs-site.xml"); * conf.addResource("classpath://hadoop/hdfs-site.xml"); */// 创建文件系统FileSystem fileSystem = FileSystem.get(new URI(OUT_PATH), conf);// 如果输出目录存在，我们就删除if (fileSystem.exists(new Path(OUT_PATH))) {fileSystem.delete(new Path(OUT_PATH), true);}// 创建任务Job job = new Job(conf, WordCountTest.class.getName());// 天龙八部1.1设置输入目录和设置输入数据格式化的类FileInputFormat.setInputPaths(job, INPUT_PATH);job.setInputFormatClass(NLineInputFormat.class);// 天龙八部1.2设置自定义Mapper类和设置map函数输出数据的key和value的类型job.setMapperClass(MyNLineInputFormatMapper.class);job.setMapOutputKeyClass(Text.class);job.setMapOutputValueClass(LongWritable.class);// 天龙八部1.3设置分区和reduce数量(reduce的数量，和分区的数量对应，因为分区为一个，所以reduce的数量也是一个)job.setPartitionerClass(HashPartitioner.class);job.setNumReduceTasks(1);// 天龙八部1.4排序、分组// 天龙八部1.5归约// 天龙八部2.1Shuffle把数据从Map端拷贝到Reduce端。// 天龙八部2.2指定Reducer类和输出key和value的类型job.setReducerClass(MyNLineInputFormatReducer.class);job.setOutputKeyClass(Text.class);job.setOutputValueClass(LongWritable.class);// 天龙八部2.3指定输出的路径和设置输出的格式化类FileOutputFormat.setOutputPath(job, new Path(OUT_PATH));job.setOutputFormatClass(TextOutputFormat.class);// 提交作业 退出System.exit(job.waitForCompletion(true) ? 0 : 1);} catch (Exception e) {e.printStackTrace();}}public static class MyNLineInputFormatMapper extends Mapper<LongWritable, Text, Text, LongWritable> {// 定义一个LongWritable对象作为map输出的value类型LongWritable oneTime = new LongWritable(1);// 定义一个Text对象作为map输出的key类型Text word = new Text();protected void map(LongWritable key, Text value, Mapper<LongWritable, Text, Text, LongWritable>.Context context) throws IOException,InterruptedException {// 对每一行记录采用制表符(\t)进行分割String[] splits = value.toString().split("\t");// 遍历字符串数组输出每一个单词for (String str : splits) {// 设置wordword.set(str);// 把结果写出去context.write(word, oneTime);}}}public static class MyNLineInputFormatReducer extends Reducer<Text, LongWritable, Text, LongWritable> {// 定义LongWritable对象最为Reduce输出的value类型LongWritable result = new LongWritable();protected void reduce(Text key, Iterable<LongWritable> values, Reducer<Text, LongWritable, Text, LongWritable>.Context context) throws IOException,InterruptedException {int sum = 0;// 遍历集合，计算每个单词出现的和for (LongWritable s : values) {sum += s.get();}// 设置resultresult.set(sum);// 把结果写出去context.write(key, result);}}}