欢迎来到天天文库
浏览记录
ID:5297449
大小:5.03 MB
页数:19页
时间:2017-12-07
《如何支撑htap场景-19页》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、如何支撑HTAP场景HybridDBforMySQL系统架构和技术演进阿里云高级专家王骞12345技术现状产品定位技术演进路线当前限制未来发展1、技术现状HybridDBforMySQL技术现状HybridTransactionalAnalyticalProcessingRDS级云服务一份数据,支持在线事务与在线分析高可靠、高可用、白名单、性能数据分布式sharenothing架构,线性扩展在线扩容、备份恢复3-15倍压缩比DTS、DMS、CDP、QuickBIMySQL兼容与增强规模JDBC、ODBC、PHP、Go、Ruby、P
2、ython、服务10多个国内外regionNavicat、Tableau…总数据PB级,日新增数据百TB级SQL标准、TPC-H、TPC-DS2、产品定位HybridDBforMySQL的目标定位OLTP扩展能力商业数据库:POLARDBOracle/SQLServer/…HybridDBforMySQLDRDS+RDSMySQLRDSOLAP扩展能力3、技术演进HybridDBforMySQL技术演进软硬结合融合POLARDB作为存储引擎,行列混合存储增强HTAP能力支持行列混合存储,增强OLAP计算存储分离业务使用自研的计算引擎提供复杂查低成
3、本大数据询能力,大幅改善SQL兼容性大幅优化存储体系,提升写入吞分库分表数据库吐,降低成本形成独立的server,提供MySQL单机数据库+中间件访问协议和部分SQL支持从单机MySQL数据库和分库分表中间件做起201320142015201620172018发展起点数据库中间件+数据库服务SessionSessionExecuteExecute单机的问题ThreadThread数据集中cpu/memory/iops性能瓶颈lock/log/transaction资源争抢data简化模型Database正确性:事务SessionThread
4、性能:并行化开局探索ShardingMiddleWare中间件的思路MiddleWareMiddleWareExecuteThreadExecuteThread中间件的局限partofdatapartofdataDatabaseDatabase合久必分数据库服务分库分表动机线性提升性能解决兼容性问题SessionThread难点事务状态机ShardingDatabaseServer流式执行器ShardingSharding请求级连接池SessionThreadSessionThread成果partofdatapartofdata
5、动态扩容DatabaseDatabase连接数、QPS/TPS容量线性提升典型业务高并发在线业务存储优化低成本高吞吐动机Session降低成本Thread增大存储存储规模难点DatabaseServer性能与成本的平衡ParallelParallelSQL优化器ExecutorExecutor大实例运维partofdatapartofdataStorageEngineStorageEngine成果PB级容量OptimizedStorageSystemTB级副本数小时内迁移典型业务物联网中心数据库/历史数据业务计算优化存
6、储计算分离动机提供复杂查询能力Session难点ThreadSQL兼容性DatabaseServer全局数据一致性ParallelParallel资源隔离ExecutorExecutor成果ComputeEngineComputeEngineTPC-H/TPC-DS提升复杂查询并行计算性能partofdatapartofdataStorageEngineStorageEngine典型业务实时写入实时查询实时分析业务OptimizedStorageSystem计算优化行列混合动机增强静态数据的复杂查询能力Session难点Th
7、read行列存引擎DatabaseServer数据格式自动转换ParallelParallel查询优化器ExecutorExecutor成果ComputeEngineComputeEngine订制存储结构RowstoreColumnstoreRowstoreColumnstore自适应优化StorageEngineStorageEngine典型业务HTAP-在线实时分析业务OptimizedStorageSystem混合数据仓库业务4、当前限制HybridDBforMySQL当前限制暂不支持的高级特性暂不适合的业务场景及相关建议
8、触发器业务结构简单且数据量小,存在热点存储过程->CloudDBA诊断优化+RDS升级游
此文档下载收益归作者所有