Hive基本概念
1.1什么是Hive
1)hive简介
Hive:由facebook开源用于解决海量结构化日志的数据统计工具。
Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
2)Hive本质:将HQL转化成MapReduce程序
(1)Hive处理的数据存储在HDFS
(2)Hive分析数据底层的实现是MapReduce
(3)执行程序运行在Yarn上
1.2Hive的优缺点
1.2.1优点
(1)操作接口采用类SQL语法,提供快速开发的能力(简单,容易上手)。
(2)避免了去写MapReduce,减少开发人员的学习成本。
(3)Hive优秀在于处理大数据,支持海量数据的分析与计算。
(4)Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。
1.2.2缺点
1)Hive的HQL表达能力有限
(1)Hive自动生成的MapReduce作业,通常情况下不够智能化。
(2)数据挖掘方面不擅长,由于MapReduce数据处理流程的限制,效率更高的算法却无法实现。
2)Hive的效率比较低
(1)Hive的执行延迟比较高,因此Hive常用于数据分析,对实时性要求不高的场合。
(2)Hive调优比较困难,粒度较粗。
3)Hive不支持实时查询和行级别更新
(1)hive分析的数据是存储在hdfs上,hdfs不支持随机写,只支持追加写,所以在hive中不能updata和delete,能select和insert.