sqoop命令参数中文手册

sqoop命令参数中文手册

ID:14604162

大小:39.53 KB

页数:13页

时间:2018-07-29

sqoop命令参数中文手册_第1页
sqoop命令参数中文手册_第2页
sqoop命令参数中文手册_第3页
sqoop命令参数中文手册_第4页
sqoop命令参数中文手册_第5页
资源描述:

《sqoop命令参数中文手册》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、学大数据,上小牛学堂课程视频地址:http://www.edu360.cn/free/java?pid=4Sqoop中文手册1.概述本文档主要对SQOOP的使用进行了说明,参考内容主要来自于ClouderaSQOOP的官方文档。为了用中文更清楚明白地描述各参数的使用含义,本文档几乎所有参数使用说明都经过了我的实际验证而得到。2.codegen将关系数据库表映射为一个Java文件、Java class类、以及相关的jar包,作用主要是两方面:1、 将数据库表映射为一个Java文件,在该Java文件中对应有表的各个字段。2、 生成的Jar和class文件在metastor

2、e功能使用时会用到。基础语句:sqoopcodegen–connectjdbc:MySQL://localhost:3306/hive–usernameroot–password123456–tableTBLS2 参数说明–bindir

指定生成的java文件、编译成的class文件及将生成文件打包为JAR的JAR包文件输出路径–class-name设定生成的Java文件指定的名称–outdir生成的java文件存放路径–package-name包名,如cn.cnnic,则会生成cn和cnnic两级目录,生成的文件(如java

3、文件)就存放在cnnic目录里学大数据,上小牛学堂课程视频地址:http://www.edu360.cn/free/java?pid=4–input-null-non-string在生成的java文件中,可以将null字符串设为想要设定的值(比如空字符串’’)–input-null-string同上,设定时,最好与上面的属性一起设置,且设置同样的值(比如空字符串等等)。–map-column-java数据库字段在生成的java文件中会映射为各种属性,且默认的数据类型与数据库类型保持对应,比如数据库中某字段的类型为big

4、int,则在Java文件中的数据类型为long型,通过这个属性,可以改变数据库字段在java中映射的数据类型,格式如:–map-column-javaDB_ID=String,id=Integer–null-non-string在生成的java文件中,比如TBL_ID==null?”null”:””,通过这个属性设置可以将null字符串设置为其它值如ddd,TBL_ID==null?”ddd”:””–null-string同上,使用的时候最好和上面的属性一起用,且设置为相同的值–table对应关系数据库的

5、表名,生成的java文件中的各属性与该表的各字段一一对应。 3.create-hive-table生成与关系数据库表的表结构对应的HIVE表基础语句:sqoopcreate-hive-table–connectjdbc:mysql://localhost:3306/hive-usernameroot-password123456–tableTBLS–hive-tableh_tbls2参数说明–hive-home

Hive的安装目录,可以通过该参数覆盖掉默认的hive目录–hive-overwrite覆盖掉在hive表中已经存在的数据–create-hive-t

6、able默认是false,如果目标表已经存在了,那么创建任务会失败–hive-table后面接要创建的hive表–table指定关系数据库表名 4.eval学大数据,上小牛学堂课程视频地址:http://www.edu360.cn/free/java?pid=4可以快速地使用SQL语句对关系数据库进行操作,这可以使得在使用import这种工具进行数据导入的时候,可以预先了解相关的SQL语句是否正确,并能将结果显示在控制台。查询示例:sqoopeval–connectjdbc:mysql://localhost:3306/hive-usernameroot-passwo

7、rd123456-query“SELECT*FROMtblsLIMIT10″数据插入示例:sqoopeval–connectjdbc:mysql://localhost:3306/hive-usernameroot-password123456-e“INSERTINTOTBLS2VALUES(100,1375170308,1,0,’Hadoop’,0,1,’guest’,’MANAGED_TABLE’,’abc’,’ddd’)”-e、-query这两个参数经过测试,比如后面分别接查询和插入SQL语句,皆可运行无误,如上。5.export从hdfs中导

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。