sybase_iq非结构化数据解决方案

《sybase_iq非结构化数据解决方案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、SybaseIQ非结构化数据解决方案SybaseIQ是Sybase公司推出的特别为数据仓库设计的关系型数据库。IQ的架构与大多数关系型数据库不同，它特别的设计用以支持大量并发用户的即时查询。其设计与执行进程优先考虑查询性能，其次是完成批量数据更新的速度。而传统关系型数据库引擎的设计既考虑在线的事务进程又考虑数据仓库（而事实上，往往更多的关注事务进程）。列存储IQ以列存储数据，而不是行——这与其他所有关系型数据库引擎广泛使用的存储方法方向相反。在其他关系型数据库内核中，数据库的一张表典型的表示为一条数据库页链，每一数据页中有一行或多行数据记录。在数据仓库应用中，从查

2、询性能的观点出发，这种存储方式是所有可能的数据存储方式中最不可取的。在IQ中，每张表是一组相互独立的页链的集合，每一页链代表表中的一列。所以有100列的表将有100条相互独立的页链，每一列都有一条页链与之对应，而不是象其他数据库引擎，一张表对应一条页链。列存储所固有的优越性在于：大多数数据仓库应用的查询只关心表中所有列的一个很小的子集，从而可以以很少的磁盘I/O得到查询结果。现在考虑这样一个例子，假设我们要得到所有生日在七月份的客户的名字和电子邮件地址。在一个典型的OLTP数据库引擎中，查询优化器将根据返回行的百分比（如1/12，在本例中，假设各月的生日都基本平均

3、）来决定是否值得在该列上使用索引。因此，典型的数据库引擎对该查询可能会做全表的扫描。为了对扫描的成本做一估算，我们假设每个客户的行记录为3200个字节，共有1000万个条记录。因此，表扫描必须读取320亿个字节的数据。IQ数据库引擎可以只读取查询所需的列。在本例中，有三个相关的列：全名、电子邮件地址和出生日期。假设全名为25个字节，电子邮件地址为25个字节，出生日期为4个字节（日期以二进制做内部编码）。那么IQ只需要读取5400万个字节的数据——大约减少了59倍！数据压缩传统的数据库引擎不能以一种通用的方式进行数据压缩，主要是由于存在以下三个问题：1.第一个问题是

4、其按行存储的数据存储方式不利于压缩。这是因为数据（大多为二进制数据）在以这种方式存储时重复并不多。我们发现，按行存储的数据，最多能有5-10%的压缩比例；2.第二个问题是对于许多的2K和4K的二进制数据的页来说，为压缩和解压缩而增加的开销太大；3.第三个问题是在OLTP环境中，大量读取和更新混杂在一起。每一次更新需要进行压缩操作，而读取只需解压缩操作，大多数的数据压缩算法在压缩时比解压缩时慢4倍。这一开销将明显降低OLTP数据库引擎的事务处理效率而使得数据压缩的代价昂贵到几乎不能忍受。在数据仓库应用中，数据压缩可以用小得多的代价换取更大好处。其中包括减少对于存储量

5、的要求；增大数据吞吐量，这相当于减少查询响应时间。SybaseIQ使用了数据压缩。这是由于数据按列存储，相邻的字段值具有相同的数据类型，其二进制值的范围通常也要小得多，所以压缩更容易，压缩比更高。SybaseIQ对列存储的数据通常能得到大于50%的压缩。更大的压缩比例，加上大页面I/O，使得SybaseIQ在获得优良的查询性能的同时，减少了对存储空间的需求。1SybaseIQ独特的优势面描述了IQ独特的技术特征所带来的一些关键的应用效果。查询效果—瞬间响应IQ通过列存储、革命性的位图索引方法以及智能的动态访问技术实现了快速的查询响应速度，比传统的数据库查询速度提高

6、10-1000倍。这主要表现在如下几个方面：减少磁盘I/OSybaseIQ通过独特的列存储，索引与压缩技术，大大减少了查询中的磁盘I/O次数，其杰出的磁盘I/O效果带来了更快速的查询反应，更高的吞吐量和更低的成本。并行列处理IQ支持列向量的并行处理，这样，在查询中，大量的列向量将被并行扫描，从而达到显著降低响应时间的目的。 智能优化IQ允许在每个列上建立多个索引，IQ查询优化器在不同的使用情况下为查询选择不同的索引。提高Cache命中率大多数传统的关系型数据库执行决策支持类型的查询时会进行表扫描。表扫描使Cache命中率降低。列存储方式使Cache命中率大大提高，

7、查询响应加快。IQ 并行结构对多用户查询的性能影响大多数传统数据库采用的并行表扫描方法在一个大型SMP上只有一个用户的情况下，效果是最好的，但在多用户查询环境中的性能会大打折扣。原因是现在的大多数SMP系统只能同时支持一至两个大型的并行表扫描，如果扫描数量增加，不是CPU资源不够，就是耗尽了I/O总线的带宽。每一个表的扫描同时也使数据库缓冲完全失效，因为大多数大型数据仓库应用的表扫描都远大于物理缓冲区的存储能力。IQ独特的并行结构可以在大量的并发查询情况下提供优秀的查询性能。存储效果—节约存储成本智能压缩技术，与精巧的索引结构和列存储结合，IQ比其他数据库引擎拥有

8、更好的存储