大数据关键技术79264

《大数据关键技术79264》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、大数据关键技术2010302580220国际二班林福源摘要：结合人数据系统的一般结构，介绍和对比了当前人数据领域在文件存储、数据处理和数据库领域的关键技术。通过各种技术的对■比，得到了一些分析结果。分析结來表切大数据系统的解决方案必将落地于现冇的云计算平台；云计算平台的分布式文件系统、分布式运算模式和分布式数据库管理技术是解决人数据问题的基础;一些人的依靠数据盈利的人公司必然会是大数据应用的主体。关键词：大数据；分布式文件系统；分布式数据库；MapReduce技术21世纪，世界已经进入数据大爆炸的时代，大数据时代己经来临。从商业公司内部的各种管理和运营数据，到个人移动终端与消费电子产

2、品的社会化数据，再到互联网产生的海最信息数据等，每天壯界上产生的信息量正在飞速增长。2009年数据信息量达到8000亿GB,而到2011年达到1.8ZB［1］O图灵奖获得者JimGray提出的“新摩尔定律”:“每18个月全球新增信息量是计算机有史以来全部信息量的总和”，已经得到验证。人数据的“人”不仅仅体现在数据的海量性，还在于其数据类型的复杂性。随着报表、账单、影像、办公文档等在商业公司中得到普遍使用，互联网上视频、音乐、网络游戏不断发展，越来越多的非结构化数据进一步推动数字宇宙爆炸。数据海量而复杂，这是对大数据的诠释。与传统的数据相比，大数据具有规模性(Volume)、多样性(V

3、ariety)＞高速性(Velocity)和低价值密度(Value)的4V特点［2］。规模性和高速性是数据处理一直以来研究和探讨的问题，多样性和价值密度低是肖前数据处理发展屮不断显现岀来的问题，而且在可以预见的未來，随着儕慧城市、智慧地球等各种新设想的不断成为现实，上面的4屮问题将会变得更加凸显，而且是不得不面对的问题。数据的产生经历了被动、主动和自动3个阶段［3］。大数据的迅猛发展是信息时代数字设备计算能力和部署数量指数增长的必然结果。解决大数据研究屮的问题，必须要从人数据的产生背景进行研究。人数据的产纶源于规模效应，这种规模效应给数据的存储、管理以及数据的分析带来了极大的挑战，数

4、据管理方式上的变革正在酝酿和发生。大数据的规模效应要求其存储、运算方案也应当从规模效应上进行考虑。传统的单纯依靠单设备处理能力纵向发展的技术早已经不能满足大数据存储和处理需求。以Google等为代表的一些大的数据处理公司通过横向的分布式文件存储、分布式数据处理和分布式的数据分析技术很好的解决了由于数据爆炸所产生的各种问题。1大数据关键技术1.1人数据系统的架构大数据处理系统不管结构如何复杂，采用的技术千差万别，但是总体上总可以分为以下的几个重耍部分。大数据系统结构如图1所示。从数据处理的一般流程可以看到，在人数据环境下需要的关键技术主要针对海量数据的存储和海量数据的运算。传统的关系数

5、据库经过近40年的发展己经成为了一门成熟同时仍在不断演进的数据管理和分析技术，结构化查询语言(SQL)作为存取关系数据库的语言得到了标准化，其功能和表达能力也得到的不断增强。但是，关系数据管理系统的扩展性在互联网坏境卜•遇到了前所未有的障碍，不能胜任人数据分析的要求。关系数据管理模型追求的是高度的一致性和正确性。纵向扩展系统，通过增加或者更换CPU、内存、硬盘以扩展单个节点的能力，终会遇到“瓶颈”。大数据的研究主要来源于依靠数据获取商业利益的大公司。Google公司作为全球最大的信息检索公司，其走在了大数据研究的前沿。面对呈现爆炸式增加的因特网信息，仅仅依靠捉高服务器性能己经远远不能

6、满足业务的需求。如果将各种人数据应用比作“汽车”，支撑起这些“汽车”运行的“高速公路”就是云计算。正是云计算技术在数据存储、管理与分析等方面的支持，才使得大数据有用武之地。Google公司从横向进行扩展，通过采用廉价的计算机节点集群，改写软件，使Z能够在集群上并行执行，解决海量数据的存储和检索功能。2006年Google首先提出云计算的概念。支撐Google公司各种人数据应用的关键正是其自行研发的一系列云计算技术和工具oGoogle公司大数据处理的三大关键技术为：Google文件系统GFS[4]>MapReduce[5]和Bigtable[6]0Google的技术方案为其他的公司提供

7、了一个很好的参考方案，各大公司纷纷提出了自己的大数据处理平台，采用的技术也都大同小界。卜•面将从支持大数据系统所需耍的分布式文件系统、分布式数据处理技术、分布式数据库系统和开源的大数据系统Iladoop等方面介绍人数据系统的关键技术。1.2分布式文件系统文件系统是支持大数据应用的基础。Google是冇史以来唯一盂要处理如此海量数据的人公司。对于Google而言，现冇的方案已经难以满足其如此人的数据最的存储，为此Google提出了一•种分布式的文件管理系统—