HDFS的设计
Hadoop自带一个称为HDFS的分布式文件系统,即Hadoop Distributed FileSystem。在非正式文档或旧文档以及配置中心中,有时也简称为DFS
数据块
每个磁盘都有默认的数据块大小,这是磁盘进行数据读/写的最小单位。构建与单个磁盘之上的文件系统通过磁盘块来管理该文件系统中的块。该文件系统块的大小可以是磁盘块的整数倍。
HDFS同样也有块(block)的概念,但是大得多,默认为128MB。与单一磁盘上的文件系统相似,HDFS上的文件也被花费为块大小的多个分块(chunk),作为独立的存储单元。
好处:
1.一个文件的大小可以大于网络中任意一个磁盘的容量。文件的所有块并不需要存储在同一个磁盘上,因此他们可以利用集群上的任意一个磁盘进行存储。
2.使用抽象块而非整个文件作为存储单元,大大简化了存储子系统的设计。
3.块还非常适合用于数据备份进而提供数据容错能力和提高可用性。将每个块复制到少数几个物理上相互独立的机器上(默认为3个),可以确保在块、磁盘或机器发生故障后数据不会丢失。如果发现一个块不可用,系统会从其他地方读取另一个副本,而这个过程对用户是透明的
HDFS中fsck指令可以显示块信息。执行以下命令将列出文件系统中各个文件由哪些块构成
hdfs fsck / -files -blocks
namenode 和 datanode
HDFS 集群有两类节点以管理节点-工作节点模式运行,即一个namenode(管理节点)和多个datanode(工作节点)。namenode管理文件系统的命名空间。它维护者文件系统树及整棵树内所有的文件和目录。这些信息以两个文件形式永久保存在本地磁盘上:命名空间镜像文件和编辑日志文件