阿里云批量计算服务-快速入门-D

阿里云批量计算服务-快速入门-D

ID:35885578

大小:356.83 KB

页数:22页

时间:2019-04-22

阿里云批量计算服务-快速入门-D_第1页
阿里云批量计算服务-快速入门-D_第2页
阿里云批量计算服务-快速入门-D_第3页
阿里云批量计算服务-快速入门-D_第4页
阿里云批量计算服务-快速入门-D_第5页
资源描述:

《阿里云批量计算服务-快速入门-D》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、批量计算快速入门批量计算/快速入门快速入门如何开通批量计算1.创建阿里云账号如果您还没有阿里云账号,请登陆阿里云官网,点左上角"注册"创建阿里云账号。2.开通BatchCompute使用注册成功的阿里云账号登陆,点左上角"产品",在"大规模计算"中找到批量计算(BatchCompute)进入产品主页,开通BatchCompute服务。3.获取AccessKeyId和AccessKeySecret进入AK控制台获取AccessKeySecret:找到启用状态的AccessKeyId点击显示,即可获取对应的AccessKeySecret。如果没有可用的AccessKeyId可点击右上角的"创建

2、AccessKey"按钮,创建成功后,系统会生成一对AccessKeyId和AccessKeySecret。4.理解基本概念为更好的继续下面的操作,首先简单理解BatchCompute中的几个核心概念。5.关于OSS批量计算服务默认使用OSS作为持久化存储,所以很有必要先花10分钟时间了解OSS。如果您已经对OSS有所了解,请忽略。6.选择合适的工具批量计算服务提供基于HTTP的API,在API之上我们还封装了一些工具,你可以使用这些工具提交作业,和管21批量计算/快速入门理作业等。使用控制台:适合初级用户,使用网页可视化界面管理作业和集群。控制台快速开始例子使用命令行工具:适合初级用户,

3、快速提交程序上云,可以管理作业集群等。命令行工具快速开始例子使用SDK:适合高级用户,需要编程基础。官方提供java版和python版的sdk。Java快速开始例子,Python快速开始例子使用云渲染管理系统:专门为渲染场景定制的web管理系统。控制台快速开始例子本文档将介绍如何使用控制台来提交一个作业,目的是统计一个日志文件中"INFO","WARN","ERROR","DEBUG"出现的次数。如果您还没开通批量计算服务,请先开通。步骤预览-作业准备●上传数据文件到OSS●上传任务程序到OSS-使用控制台提交作业-查看作业状态-查看结果1.作业准备本作业是统计一个日志文件中"INFO",

4、"WARN","ERROR","DEBUG"出现的次数。该作业包含3个任务:split,count和merge:-split任务会把日志文件分成3份。-count任务会统计每份日志文件中"INFO","WARN","ERROR","DEBUG"出现的次数(count任务需要配置InstanceCount为3,表示同时启动3个count任务)。-merge任务会把count的结果统一合并起来。21批量计算/快速入门DAG图例:(1)上传数据文件到OSS下载本例子所需的数据:log-count-data.txt将log-count-data.txt上传到:oss://your-bucket/l

5、og-count/log-count-data.txt-your-bucket如表示您自己创建的bucket,本例子假设region为:cn-qingdao.-如何上传到OSS,请参考OSS上传文档。(2)上传任务程序到OSS本例子的作业程序是使用python编写的,下载本例子所需的程序:log-count.tar.gz本例子不需要改动示例代码。直接将log-count.tar.gz上传到oss,如上传到:oss://your-bucket/log-count/log-count.tar.gz。如何上传前面已经讲过。-BatchCompute只支持以tar.gz为后缀的压缩包,请注意务必用

6、以上方式(gzip)打包,否则将会无法解析。-如果你要修改代码,可以解压后修改,然后要用下面的方法打包:>cdlog-count#进入目录>tar-czflog-count.tar.gz*#打包,将所有这个目录下的文件打包到log-count.tar.gz命令如下:可以运行这条命令查看压缩包内容:$tar-tvflog-count.tar.gz可以看到以下列表:21批量计算/快速入门conf.pycount.pymerge.pysplit.py1.使用控制台提交作业登录BatchCompute控制台。然后点击"作业列表"-"提交作业"进行作业提交。请注意选择合适Region(该region

7、需要和bucket的region一致)。这里使用了AutoCluster提交作业,匿名集群需要至少配置2个参数,其中:可用的ECS镜像ID(ECSImageId),可以使用系统提供的Image,也可以自行制作镜像,请看使用镜像。实例规格(InstanceType,实例类型),请看目前支持类型。如果需要运行本例子,还需把PackagePath(作业打包上传的OSS路径,本例子中为oss://your-bucket/log-

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。