十年网站开发经验 + 多家企业客户 + 靠谱的建站团队
量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决
这篇文章主要介绍“Hadoop NameNode是什么”,在日常操作中,相信很多人在Hadoop NameNode是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Hadoop NameNode是什么”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
成都创新互联公司主要企业基础官网建设,电商平台建设,移动手机平台,小程序定制开发等一系列专为中小企业按需策划设计产品体系;应对中小企业在互联网运营的各种问题,为中小企业在互联网的运营中保驾护航。
"运行Hadoop"是什么意思?
这意味着在网络分布的不同服务器上运行一组守护进程(daemons)。这些守护进程有特殊的角色,一些仅存在于单个服务器上,一些则运行在多个服务器上。
这些角色都有谁?
NameNode(名称节点)
DataNode(数据节点)
Secondary NameNode(次名称节点)
JobTracker(作业跟踪节点)
TaskTracker(任务跟踪节点)
分布式存储采用了神马结构?
分布式存储系统被称为Hadoop文件系统,或简称为HDFS。
Hadoop Distribution File System
Hadoop在分布式计算与分布式存储中都采用了主/从(master/slave)结构。
NameNode是什么,干啥的?
Hadoop守护进程中最重要的一个。
NameNode位于HDFS的主端,它指导从端的DataNode执行底层的I/O任务。
NamNode跟踪文件如何被分割成文件块,而这些块又被哪些节点存储,以及分布式文件系统的整体运行状态是否正常。
运行NameNode消耗大量的内存和I/O资源。因此,为了减轻机器的负债,驻留NameNode的服务器通常不会存储用户数据或者执行MapReduce程序的计算任务。这意味着NameNode服务器不会同时是DataNode或者TaskTracker
不过NameNode的重要性也带来了一个负面影响-Hadoop集群的单点失效。对于任何其他的守护进程,如果它们所驻留的节点发生软件或硬件失效,Hadoop集群很可能还会继续平稳运行,不然你还可以快速重启这个节点。但这样的方法并不适用于NameNode。
DataNode是什么,干啥的?
每个从节点会驻留一个DataNode守护进程,来执行分布式文件系统的繁重工作-将HDFS数据块读取或者写入到本地文件系统的实际文件中。
当对HDFS文件进行读写时,文件被分割为多个块,由NameNode告知客户端每个数据块驻留在哪个DataNode。客户端直接与DataNode守护进程通信,来处理与数据块相对应的本地文件。而后,DataNode会与其他DataNode进行通信,复制这些数据块以实现冗余。
NameNode和DataNode交互?
在HDFS中交互,NameNode跟踪文件的元数据。
NameNode持有的文件的元数据是?
描述系统中所包含的文件以及每个文件如何被分割为数据块。DataNode提供数据块的备份存储,并持续不断地向NameNode报告,以保持元数据为最新状态。
DataNode上的文件存储是怎么存的?
在HDFS上文件是被分成数据块存储的,默认大小(64MB),由NameNode指定这些文件块存储在哪些DataNode中,每个文件块默认有3个副本,确保如果一个DataNode垮掉,数据不会丢失。初始化时,每个DataNode将当前存储的数据块告知NameNode,初始化完成之后,DataNode也会不断的更新本地信息给NameNode,并接收指令。
Secondary NameNode是干什么的?
Secondary NameNode(SNN)是一个用于监测HDFS集群状态的辅助守护进程。就像NameNode一样,每个集群有一个SNN,它通常也独占一台服务器,该服务器不会运行其他的DataNode或TaskTacker守护进程。SNN与NameNode的不同在于它不接收或记录HDFS的任何实时变化。相反,它与NameNode通信,根据集群所配置的时间间隔获取HDFS元数据快照。
如前所述,NameNode是Hadoop集群的单一故障点,而SNN的快照可以有助于减少停机的时间并降低数据丢失的风险。然而,NameNode的失效处理需要人工干预,即手动地重新配置集群,将SNN用作主要得NameNode。
JobTracker是什么?
JobTracker守护进程是应用程序和Hadoop之间的纽带。
JobTracker做了些什么?
一旦提交代码到集群上,JobTracker就会确定执行计划,包括决定处理哪些文件、为不同的任务分配节点以及监控所有任务的运行。如果任务失败,JobTacker将自动重启任务,但所分配的节点可能会不同,同时受到预定义的重试次数限制。
一个Hadoop集群有几个JobTracker的守护进程?
每个Hadoop集群只有一个JobTracker守护进程,它通常运行在服务器集群的主节点上。
TaskTracker是什么?
与存储的守护进程一样,计算的守护进程也遵循主/从架构:JobTracker作为主节点,检测MapReduce作业的整个执行过程,同时,TaskTracker管理各个任务在每个从节点上的执行情况。
每个TaskTracker负责执行由JobTracker分配的单项任务。虽然每个从节点上仅有一个TaskTracker,但每个TaskTracker可以生产多个JVM(Java虚拟机)来并行地处理许多map或reduce任务。
TaskTracker的一个职责是持续不断地与JobTracker通信。如果JobTracker在指定得时间内没有收到来自TaskTracker的"心跳",它会假定TaskTracker已经崩溃了,进而重新提交相应的任务到集群中的其他节点。
JobTracker是如何调用TaskTracker的?
JobTracker和TaskTracker的交互,当客户端调用JobTracker来启动一个数据处理作业时,JobTacker会将工作切分,并分配不同的map和reduce任务到集群中的每个TaskTracker上。
一个典型的Hadoop拓扑结构特点是?
在主节点上运行NameNode和JobTracker的守护进程,并使用独立的节点运行SNN以防主节点失效。在小型集群中,SNN也可以驻留在某一个从节点上,而在大型集群中,连NameNode和JobTracker都会分别驻留在两台机器上。每个从节点均驻留一个DataNode和TaskTracker,从而在存储数据的同一节点上执行任务。
到此,关于“Hadoop NameNode是什么”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!