hive语法和常用函数

《hive语法和常用函数》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、Hive是一个基于Hadoop分布式系统上的数据仓库，最早是由Facebook公司开发的，Hive极大的推进了Hadoopecosystem在数据仓库方面上的发展。Facebook的分析人员中很多工程师比较擅长而SQL而不善于开发MapReduce程序，为此开发出Hive，并对比较熟悉SQL的工程师提供了一套新的SQL-like方言——HiveQL。HiveSQL方言特别和MySQL方言很像，并提供了HiveQL的编程接口。HiveQL语句最终被Hive解析器引擎解析为MarReduce程序，作为job提交给JobTracker运行。这对MapReduce框架是一个

2、很有力的支持。Hive是一个数据仓库，它提供了数据仓库的部分功能：数据ETL(抽取、转换、加载)工具，数据存储管理，大数据集的查询和分析能力。由于Hive是Hadoop上的数据仓库，因此Hive也具有高延迟、批处理的的特性，即使处理很小的数据也会有比较高的延迟。故此，Hive的性能就和居于传统数据库的数据仓库的性能不能比较了。Hive不提供数据排序和查询的cache功能，不提供索引功能，不提供在线事物，也不提供实时的查询功能，更不提供实时的记录更性的功能，但是，Hive能很好地处理在不变的超大数据集上的批量的分析处理功能。Hive是基于hadoop平台的，故有很好的

3、扩展性(可以自适应机器和数据量的动态变化)，高延展性(自定义函数)，良好的容错性，低约束的数据输入格式。下面我们来看一下Hive的架构和执行流程以及编译流程：用户提交的HiveQL语句最终被编译为MapReduce程序作为Job提交给Hadoop执行。Hive的数据类型Hive的基本数据类型有：TINYINT，SAMLLINT，INT，BIGINT，BOOLEA，NFLOAT，DOUBLE，STRING，TIMESTAMP(V0.8.0+)和BINARY(V0.8.0+)。Hive的集合类型有：STRUCT，MAP和ARRAY。Hive主要有四种数据模型(即表)：(

4、内部)表、外部表、分区表和桶表。表的元数据保存传统的数据库的表中，当前hive只支持Derby和MySQL数据库。内部表：Hive中的表和传统数据库中的表在概念上是类似的，Hive的每个表都有自己的存储目录，除了外部表外，所有的表数据都存放在配置在hive-site.xml文件的${hive.metastore.warehouse.dir}/table_name目录下。Java代码1.CREATETABLEIFNOTEXISTSstudents(user_noINT,nameSTRING,sexSTRING,2.gradeSTRINGCOMMOT'班级'）COMMO

5、N'T学生表'3.ROWFORMATDELIMITED4.FIELDSTERMINATEDBY','5.STOREASTEXTFILE;外部表：外部表指向已经存在在HadoopHDFS上的数据，除了在删除外部表时只删除元数据而不会删除表数据外，其他和内部表很像。Java代码1.CREATEEXTERNALTABLEIFNOTEXISTSstudents(user_noINT,nameSTRING,sexSTRING,2.classSTRINGCOMMOT'班级'）COMMON'T学生表'3.ROWFORMATDELIMITED4.FIELDSTERMINATEDBY

6、','5.STOREASSEQUENCEFILE6.LOCATION'/usr/test/data/students.txt';分区表：分区表的每一个分区都对应数据库中相应分区列的一个索引，但是其组织方式和传统的关系型数据库不同。在Hive中，分区表的每一个分区都对应表下的一个目录，所有的分区的数据都存储在对应的目录中。比如说，分区表partitinTable有包含nation(国家)、ds(日期)和city(城市)3个分区，其中nation=china，ds=20130506，city=Shanghai则对应HDFS上的目录为：/datawarehouse/par

7、titinTable/nation=china/city=Shanghai/ds=20130506/。Java代码1.CREATETABLEIFNOTEXISTSstudents(user_noINT,nameSTRING,sexSTRING,2.classSTRINGCOMMOT'班级'）COMMON'T学生表'3.PARTITIONEDBY(dsSTRING,countrySTRING)4.ROWFORMATDELIMITED5.FIELDSTERMINATEDBY','6.STOREASSEQUENCEFILE;分区中定义的变量名不能和表中的列相同。桶区表