又是一周,这次给自己复习一下Hbase,算是写的比较详细的,当然比较晚了,还没写完,这两天一定抽时间把它补完。
接下来进入正题:
1、Hbase的介绍
之前我们熟悉的数据库,比如Mysql,属于是关系型数据库,但是它的单机单表的数据量还是有限,在700—1000万条(网查的),但是在大数据框架中,这点数据量还是捉襟见肘,所以采用NOSQL数据库
关系型数据库:例如mysql、 Oracle
非关系型数据库:HBase
注意:Hbase读比写慢,详情请看Hbase的读与写流程
2、Hbase的安装与配置
首先需要知道:Hbase的存储是基于HDFS的,并且Hbase的元数据信息也存储在Zookeeper中,所以zk与hadoop需要能够正常启动。
2.1 Zookeeper与Hadoop正常部署
zookeeper集群的启动:zk.sh start
Hadoop集群的正常部署并启动:hdfs.sh start
帮助提示:
zk的启动命令:bin/zkServer.sh start
hdfs服务的启动:sbin/start-dfs.sh
yarn启动:sbin/start-yarn.sh
2.2 HBase的解压
解压Hbase到指定目录:tar -zxvf hbase-1.3.1-bin.tar.gz -C /usr/local/
Hbase-1.3.1的安装包:
2.3 HBase的配置文件
修改HBase对应的配置文件,位置:hbase的conf目录下:
1)hbase-env.sh修改内容(配置环境变量):
export JAVA_HOME=/usr/local/opt/jdk1.8.0_144
export HBASE_MANAGES_ZK=false
这是因为Hbase里面有一个内置的zookeeper,所以我们在这里关闭,使用我们自己的zookeeper集群
2)hbase-site.xml添加以下内容:
<configuration>
<!-- 配置Hbase的数据存储地址-->
<property>
<name>hbase.rootdir</name>
<value>hdfs://master102:9000/HBase</value>
</property>
<!-- 配置Hbase的集群分布式为true -->
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>
<!-- 0.98后的新变动,之前版本没有.port,默认端口为60000 -->
<property>
<name>hbase.master.port</name>
<value>16000</value>
</property>
<!-- 配置zookeeper的集群 -->
<property>
<name>hbase.zookeeper.quorum</name>
<value>master102,slaver103,slaver104</value>
</property>
<!-- 配置Hbase在zookeeper中存储数据的目录(存储元数据信息) -->
<property>
<name>hbase.zookeeper.property.dataDir</name>
<value>/usr/local/zookeeper-3.4.10/zkData</value>
</property>
</configuration>
3)regionservers(配置hbase集群的节点):
master102
slaver103
slaver104
4)软连接hadoop配置文件到HBase:
ln -s /usr/local/hadoop-2.7.2/etc/hadoop/core-site.xml /usr/local/hbase/conf/core-site.xml
ln -s /usr/local/hadoop-2.7.2/etc/hadoop/hdfs-site.xml /usr/local/hbase/conf/hdfs-site.xml
2.4 HBase远程发送到其他集群
[later@master module]$ xsync hbase/
同步服务请参考:
2.5 Hbase服务的启动
1.启动方式
[later@master hbase]$ bin/hbase-daemon.sh start master
[later@master hbase]$ bin/hbase-daemon.sh start regionserver
2.启动方式2
[later@master hbase]$ bin/start-hbase.sh
停止服务:
[later@master hbase]$ bin/stop-hbase.sh
特别注意:如果集群之间的节点时间不同步,会导致regionserver无法启动,抛出ClockOutOfSyncException异常。集群时间同步请参考:
2.6 查看Hbase页面
http://master102:16010
2.7 HBase Shell基本测试
1.进入HBase客户端命令行
[later@master hbase]$ bin/hbase shell
2.查看帮助命令
hbase(main):001:0> help
3.查看当前数据库中有哪些表
hbase(main):002:0> list
1.创建表
hbase(main):002:0> create ‘student’,‘info’
2.插入数据到表
hbase(main):003:0> put ‘student’,‘1001’,‘info:sex’,‘male’
hbase(main):004:0> put ‘student’,‘1001’,‘info:age’,‘18’
hbase(main):005:0> put ‘student’,‘1002’,‘info:name’,‘Janna’
hbase(main):006:0> put ‘student’,‘1002’,‘info:sex’,‘female’
hbase(main):007:0> put ‘student’,‘1002’,‘info:age’,‘20’
3.扫描查看表数据
hbase(main):008:0> scan ‘student’
hbase(main):009:0> scan ‘student’,{STARTROW => ‘1001’, STOPROW => ‘1001’}
hbase(main):010:0> scan ‘student’,{STARTROW => ‘1001’}
4.查看表结构
hbase(main):011:0> describe ‘student’
5.更新指定字段的数据
hbase(main):012:0> put ‘student’,‘1001’,‘info:name’,‘Nick’
hbase(main):013:0> put ‘student’,‘1001’,‘info:age’,‘100’
6.查看“指定行”或“指定列族:列”的数据
hbase(main):014:0> get ‘student’,‘1001’
hbase(main):015:0> get ‘student’,‘1001’,‘info:name’
7.统计表数据行数
hbase(main):021:0> count ‘student’
8.删除数据
删除某rowkey的全部数据:
hbase(main):016:0> deleteall ‘student’,‘1001’
删除某rowkey的某一列数据:
hbase(main):017:0> delete ‘student’,‘1002’,‘info:sex’
9.清空表数据
hbase(main):018:0> truncate ‘student’
提示:清空表的操作顺序为先disable,然后再truncate。
10.删除表
首先需要先让该表为disable状态:
hbase(main):019:0> disable ‘student’
然后才能drop这个表:
hbase(main):020:0> drop ‘student’
提示:如果直接drop表,会报错:ERROR: Table student is enabled. Disable it first.
11.变更表信息
将info列族中的数据存放3个版本:
hbase(main):022:0> alter ‘student’,{NAME=>‘info’,VERSIONS=>3}
hbase(main):022:0> get ‘student’,‘1001’,{COLUMN=>‘info:name’,VERSIONS=>3}
3、Hbase的架构
3.1 逻辑结构
上图是用常见的二维表格在hbase中存储的逻辑结构
每一行的数据是按照rowKey来查找的,其中,因为该表可能列多,行多,所以我们
把多个列按照列族来管理,一个列族中包括多个列
把多个行按照Region来管理,一个Region中包括多行数据
把一个Region中的一个列族的数据叫做Store
3.2 物理存储结构
上面说的是逻辑结构,那么它实际上是如何存储数据的
注意:在Hbase中增删改数据,都会增加数据。只不过是type的不同
上图体现的是一行数据是怎么在Hbase中进行存储的
在关系库中,一个人的各种信息数据是以一行数据进行存储的,但在Hbase中并不是按照一行来存储的。而是把每个列的值都存为1行,关键信息为RowKey,列族信息,列名,时间戳,操作类型(添加这条数据时是删除还是添加还是修改),值
-
ROW:HBase表中的每行数据都由一个RowKey和多个Column(列)组成,数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进行检索,所以RowKey的设计十分重要。
-
Column:HBase中的每个列都由Column Family(列族)和Column Qualifier(列限定符)进行限定,例如info:name,info:age。建表时,只需指明列族,而列限定符无需预先定义。
-
Time Stamp:用于标识数据的不同版本(version),每条数据写入时,如果不指定时间戳,系统会自动为其加上该字段,其值为写入HBase的时间。
-
Cell:由{rowkey, column Family:column Qualifier, time Stamp} 唯一确定的单元。
cell中的数据是没有类型的,全部是字节码形式存贮。
-
Name Space:命名空间,类似于关系型数据库的DatabBase概念,每个命名空间下有多个表。HBase有两个自带的命名空间,分别是“hbase”和“default”,“hbase”中存放的是HBase内置的表,“default”表是用户默认使用的命名空间。
-
Region:表的切片。类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,不需要声明具体的列。这意味着,往HBase写入数据时,字段可以动态、按需指定。因此,和关系型数据库相比,HBase能够轻松应对字段变更的场景。
3.3 架构原理
首先数据的存储依赖于HDFS,为HBase提供最终的底层数据存储服务,同时为HBase提供高可用的支持。
在Hbase的框架中,HMaster依赖于ZK,HMaster的作用管理数据的元数据(Hbase有一个meta表),类似于Hadoop中的NameNode
这里假设:Hbase集群有2个节点进行数据存储
-
每个节点都会有个进程HRegion Server,由Master进行管理,负载均衡。
-
而HRegion Server为Region的管理者,也就是其中包含着多个Region
-
Region是表的切片,所以Region中又有多个Store(列族的切片),也就是说同一个Region中的不同的Store来自于不同的列族
-
在每个Store中,数据的存储又依赖于内存区域:Mem Store,当内存达到一定的条件,就会刷写到磁盘(刷写机制见3.6),多次刷写后就有了多个Store File,刷写到磁盘的文件格式为HFile
-
考虑到多个刷写出来的文件较多,所以进行合并,当合并后的文件过大的时候(默认达到10G切分),不便于查找,按照midRowKey将进行切分。
-
最后Store File真正的存储还是要依赖于HDFS,其中还有Hlog也存储在HDFS(Hlog为预写入日志,及时落盘,用于HBase恢复数据)
-
HMaster和HDFS进行通信,来向HMaster汇报存储数据的元数据
术语解释:
1)Region Server
Region Server为Region的管理者,其实现类为HRegionServer,主要作用如下:
对于数据的操作:get, put, delete;
对于Region的操作:splitRegion、compactRegion。
2)Master
Master是所有Region Server的管理者,其实现类为HMaster,主要作用如下:
对于表的操作:create, delete, alter
对于RegionServer的操作:分配regions到每个RegionServer,监控每个RegionServer的状态,负载均衡和故障转移。
3)Zookeeper
HBase通过Zookeeper来做Master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。
3.4 Hbase的写流程
1)客户端Client先访问zookeeper,获取hbase:meta表位于哪个RegionServer。
2)客户端继续访问对应的RegionServer,获取hbase:meta表,根据读请求的namespace:table/rowkey,查询出要写入的目标数据位于哪个RegionServer中的哪个Region中。并将该table的region信息以及meta表的位置信息缓存在客户端的meta cache(LRUcache方法,最近最常使用),方便下次访问。
3)客户端Client与目标RegionServer建立连接;
4)将数据顺序写入(追加)到WAL(也就是Hlog);
5)将数据写入对应的MemStore,数据会在MemStore进行排序;
6)向客户端发送ack;这个时候及时数据没有落盘,用户也可以查到。假如这个时候机器挂掉了,WAL也能帮助恢复
7)等达到MemStore的刷写时机后,将数据刷写到HFile。
3.5 读流程
数据的读操作与HMaster没有关系
1)1-3步通写流程
4)分别在Block Cache(读缓存),MemStore和Store File(HFile)中查询目标数据,并将查到的所有数据进行合并。此处所有数据是指同一条数据的不同版本(time stamp)或者不同的类型(Put/Delete)。
这里的查询过程:
先要同时读取Block Cache(读缓存)和MemStore,再检索新落盘的文件,其中Block Cache缓存的是上一次落盘的文件
比如:同一个RowKey先写入(张三,时间戳为78),查找后缓存到Block Cache,过了几个小时,它已经落盘为文件,后写入(李四,时间戳为89),也落盘为文件了,但没进行查找,最后又写入(王五,时间戳为66),还在内存中
这个时候如果我们查找,理论上需要返回的是时间戳大的李四
查找过程:检索内存,时间戳为66,Block Cache缓存的是时间戳为78的张三,而李四属于是新落盘的文件,所以这个时候必须内存、缓存和文件都进行读取,才能返回结果。
5) 将从文件中查询到的数据块(Block,HFile数据存储单元,默认大小为64KB)缓存到Block Cache。
6)将合并后的最终结果返回给客户端
3.6 刷写机制
1.当单个Region中的memstroe的总大小达到了(默认值128M),其所在region的所有memstore都会刷写。
参数:hbase.hregion.memstore.flush.size(默认值128M)
2.当Region Server中memstore的总大小达到JVM堆内存的0.4时,region会按照其所有memstore的大小顺序(由大到小)依次进行刷写。这个时候会阻塞客户端的写操作,直到当前内存的数据量小于堆内存的0.4*0.95,也就是堆内存的0.38时,才会打开写操作。
原因:只有当一直发生写操作,memstore的总大小达到JVM堆内存的0.4,那么这个时候开始了刷写,但如果说开始刷写后数据量还能达到JVM堆内存的0.38时,说明写数据的速度比刷写的速度快,如果不阻塞写操作,容易把内存爆了,发生OOM。
参数:java**_**heapsize * hbase.regionserver.global.memstore.size(默认值0.4)
hbase.regionserver.global.memstore.size.lower.limit**(默认值0.95)
3.单个MemStore到达自动刷写的时间(默认1小时,距离最后操作时间1小时),也会触发memstore flush。
参数:hbase.regionserver.optionalcacheflushinterval(默认1小时)。
4.当WAL(也就是Hlog)文件的数量超过(默认值32),region会按照时间顺序依次进行刷写,直到WAL文件数量减小到hbase.regionserver.max.log以下(该属性名已经废弃,现无需手动设置,最大值为32)。
3.7 StoreFile合并
由于memstore每次刷写都会生成一个新的HFile,且同一个字段的不同版本(timestamp)和不同类型(Put/Delete)有可能会分布在不同的HFile中,因此查询时需要遍历所有的HFile。为了减少HFile的个数,以及清理掉过期和删除的数据,会进行StoreFile Compaction。Compaction分为两种:
- Minor Compaction:会将临近的若干个较小的HFile合并成一个较大的HFile,但不会清理过期和删除的数据,可能原来有10个文件,合并完后还有3个。
- Major Compaction:会将一个Store下的所有的HFile合并成一个大HFile,并且会清理掉过期和删除的数据。合并完后一定是只有1个文件。(默认为当一个Store下达到3个文件就会触发合并,当一个Store下文件数达到10时就会暂缓刷写,因为这个时候刷写的速度大于合并的速度)
3.7 Region Split
默认情况下,每个Table起初只有一个Region,随着数据的不断写入,Region会自动进行拆分。刚拆分时,两个子Region都位于当前的Region Server,但处于负载均衡的考虑,HMaster有可能会将某个Region转移给其他的Region Server。
Region Split时机:
1.当1个region中的某个Store下所有StoreFile的总大小超过hbase.hregion.max.filesize(默认为10G),该Region就会进行拆分(0.94版本之前)。
2.当1个region中的某个Store下所有StoreFile的总大小超过
Min(R^2 * “hbase.hregion.memstore.flush.size”,hbase.hregion.max.filesize"),该Region就会进行拆分,其中R为当前Region Server中属于该Table的个数(0.94版本之后)
4、Hbase的API
未完待续。。。
5、Hbase的优化
未完待续。。。
好了,关于Hbase的基本介绍就到这里了,知识水平、经验有限,可能有些细节没讲明白,欢迎大家指正。欢迎大家点赞、转发、评论哈。