欢迎来到天天文库
浏览记录
ID:51992154
大小:443.50 KB
页数:12页
时间:2020-03-27
《hadoop在大数据分析应用-马健馨.ppt》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库。
1、Hadoop以及在大数据应用马健馨北京语言大学大纲1、hadoop简介2、编程接口3、hive数据仓库4、hive日志分析Hadoop简介Hadoop就是一个实现了Google云计算系统的开源系统,包括并行计算模型Map/Reduce,分布式文件系统HDFS,以及分布式数据库Hbase,同时Hadoop的相关项目也很丰富,包括ZooKeeper,Pig,Chukwa,Hive,Hbase,Mahout,flume等.Hadoop处理流程编程接口-streaming管道传输数据<>任何可以操作标准输入输出的语言都可以写streami
2、ng并行处理程序。hive数据仓库Hive是为提供简单的数据操作而设计的下一代分布式数据仓库。它提供了简单的类似SQL的语法的HiveQL语言进行数据查询。同时,HiveQL语言能力不足时,它也能允许使用Map/reduce并行计算模型进行复杂数据分析。HIVE可以将存储在Hadoop中的数据文件映射为一张数据库表,并提供了一套查询语言HQL。HQL以SQL为基础,自动转换为MapReduce任务进行运行,使用起来非常方便。Hive架构Hive特点以及典型应用1.特点不能保证处理的低迟延(lowlatency)问题。批处理大规模数据2.典型应用ETL处理OLAP系统
3、BI系统日志分析Hive日志分析架构Hive支持的数据类型以及操作数据类型:简单类型:INT,STRING,boolean复杂类型:Struct、Map和Array操作:SELECTDISTINCT,JOINS,WHERE,GROUPBYHive程序开发Java:hive-JDBCClientC/C++:ODBCclientPython,ThriftHivephp,流程CreatehivetableLoaddataselectHive序列化反序列化HIVE里面的数据及其结构以类的形式储存,并提供了串行器和反串行器来实现HIVE内部的类和普通编程语言的类之间的转换。
4、有了串行器和反串行器,我们就能在HIVE中对输入文件内容进行更复杂的操作,从而解析非结构化数据。在实际开发中只需要实现反串行器即可。
此文档下载收益归作者所有