Hadoop实战-初级部分-第二部分 Hadoop介绍
来源:互联网 发布:专业心理学书籍知乎 编辑:程序博客网 时间:2024/05/19 04:02
Hadoop 是Apache 下的一个项目,由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成。其中,HDFS 和MapReduce 是两个最基础最重要的成员。
HDFS 是Google GFS 的开源版本,一个高度容错的分布式文件系统,它能够提供高吞吐量的数据访问,适合存储海量(PB级)的大文件(通常超过64M),其原理下图所示:
采用Master/Slave 结构。NameNode维护集群内的元数据,对外提供创建、打开、删除和重命名文件或目录的功能。DataNode存储数据,并提负责处理数据的读写请求。DataNode定期向NameNode 上报心跳,NameNode通过响应心跳来控制DataNode。
InfoWord 将MapReduce 评为2009 年十大新兴技术的冠军。MapReduce 是大规模数据(TB级)计算的利器,Map 和Reduce 是它的主要思想,来源于函数式编程语言,它的原理如下图所示:
Map 负责将数据打散,Reduce负责对数据进行聚集,用户只需要实现map 和reduce 两个接口,即可完成TB级数据的计算,常见的应用包括:日志分析和数据挖掘等数据分析应用。另外,还可用于科学数据计算,如圆周率PI 的计算等。
Hadoop MapReduce 的实现也采用了Master/Slave 结构。Master叫做JobTracker,而Slave 叫做TaskTracker。
用户提交的计算叫做Job,每一个Job 会被划分成若干个Tasks。JobTracker负责Job 和Tasks的调度,而TaskTracker负责执行Tasks。
- Hadoop实战-初级部分-第二部分 Hadoop介绍
- hadoop实战-初级部分
- Hadoop实战-初级部分 之 Hadoop Shell 基本操作介绍
- Hadoop实战-初级部分 之 Hadoop IO
- Hadoop实战-初级部分 之 Hadoop IO
- Hadoop实战-初级部分 之 Hadoop IO
- Hadoop实战-初级部分-第三部分 Hadoop安装部署
- Hadoop实战-初级部分 之 HDFS API
- Hadoop实战-初级部分 之 MapReduce
- Hadoop实战-初级部分 之 Shell
- Hadoop实战-初级部分 之 HDFS
- Hadoop实战-初级部分 之 MapReduce
- Hadoop实战-初级部分 之 Shell
- Hadoop实战-初级部分 之 HDFS
- Hadoop实战-初级部分 之 HDFS API
- Hadoop实战-初级部分 之 MapReduce
- Hadoop实战-初级部分 之 MapReduce
- Hadoop实战-初级部分 之 MapReduce
- android 瀑布流图片实现
- SQLServer2008导出整个数据库的脚本(并且是带数据的)
- Ubuntu下创建root账户
- JS input文本框禁用右键和复制粘贴功能的代码
- 详解Linux内存使用信息
- Hadoop实战-初级部分-第二部分 Hadoop介绍
- 策略路由
- BeeFramework
- Unity3D学习系列教程
- mx53 linux gpio 模拟matrix keypad
- rt-thread的IPC机制之邮箱源码分析
- android ui 开发
- BOOST mutex 线程锁封装
- linux 文件描述符和库函数FILE文件指针关系