iaas平台大规模计算集群的容器实践

《iaas平台大规模计算集群的容器实践》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、IaaS平台大规模计算集群的容器实践丏注??服务??中立IaaS平台大规模计算集群的容器实践大量业务需要计算资源??数万数十万台服务器??大量CPU和内存空闲??如何方便使用这些资源迚行实时流计算??各种计算类业务??成千上万次并发请求虚拟机还是容器??虚拟机??隔离性好，但调度粒度过大??以资源为中心而不是以应用为中心??Docker容器??更细的粒度??更轻的调度??易于分发移植??计算资源做服务化打包，提供以应用为中心的视角??虚拟机和容器结合3架构APILBcoreosclustercoreosclustercorosclusterDocke

2、rRegistryUserTaskMangerZKZKZK虚拟机上运行容器的集群模式??采用VM+docker的模式??与其他业务隔离：VM??大规模计算集群易用：docker??用户无需关心资源位置??将程序打包成docker,以api方式执行拉起服务和停止服务??VM运行CoreOS??更小的资源消耗，??强大的集群管理能力??统一平台管理CoreOS集群，提交执行业务CoreOSCluster集群管理能力??通过etcd存储计算节点信息??通过fleet服务管理计算节点??以Docker方式执行任务CoreOSUnit??每个CoreOS节点部

3、署一个TaskExecutor管理任务执行??TaskExecutor通过Docker执行任务，并通过Docker的标准输入和标准输出交换数据CoreOsTaskExecutordockerdockerdocker模块描述??DockerRegistry存放业务的Docker镜像??TaskExecutor往zookeeper集群上报计算节点状态??TaskManager从zookeeper迚群获取计算节点状态并按照分配算法选择任务执行节点??所有管理模块都以golang开发，并以Docker方式运行APILBcoreosclustercoreosc

4、lustercorosclusterDockerRegistryUserTaskMangerCoreOsTaskExecutordockerdockerdocker计算类业务简便使用??用户将应用打包成Docker并上传到我们的Docker仓库??通过HTTPAPI方式调用任务，拉起Docker完成计算??Docker跑在CoreOS集群中，位置和调度由TaskManager完成忘掉资源，忘掉部署，丏注业务API实现细节??提交任务，任务参数：{输入,docker镜像路径,输出,超时时间}??任务分为同步任务和异步任务??同步任务需要同步等待任务返回

5、，适用于实时计算??异步任务提交后根据任务id获取结果，适用于离线计算??获取任务结果??获取任务状态User提交图片处理请求返回处理结果DockerDockerDockerAPITaskManagerCoreOsCluster应用案例-UFILE图片处理应用案例-UFILE图片处理??ufile是UCloud的类S3服务??ufile的图片处理涉及到大量的计算??将ufile的图片处理算法打包成Docker??要求??实时性??源图片通过数据流输入??目标图片通过数据流输出??实现??基于数据流的实时计算??将输入流重定向到Docker实例的标准输

6、入??图片处理算法读取标准输入并将处理结果输出到标准输出??管理程序将Docker标准输出变成HTTP流返回给用户应用案例-UFILE图片处理不仅一次性计算业务。。。??也可支持长时计算业务??支持持久化服务??支持大数据处理踩过的坑??TaskExecutor执行完任务可能会并发删除Docker实例，触发了CoreOS内核bug??串行化删除??更新CoreOS内核??实时流计算，TaskManager带宽和负载压力徆大??分Set部署，每个TaskManager管理适度规模??通过UCloud的内网ULB技术负载均衡Thankyou