概述
梳理一下MapReduce框架涉及到的一些基本接口和类。
作者:木鸟杂记 https://www.qtmuniao.com, 转载请注明出处
文件读写相关
RecordReader
:从输入文件中读入键值对,这里是指的map的输入,还是reduce的输入?接口有三个函数next(Writable key, Writable value)
,getPos()
和close()
,由此看来,该接口类似于一个抽象的迭代器。InputFormat
实现了该接口。
RecordWriter
:将键值对写到输出文件,OutputFormat
实现了该接口。包含函数:write(WritableComparable key, Writable value)
和close(Reporter reporter)
。
OutputCollector
:作为参数传送给Mapper
和Reducer
来输出结果数据。该接口只有一个函数collect(key, val)
。