厦门大学计算机科学系研究生课程

《厦门大学计算机科学系研究生课程》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、厦门大学计算机科学系研究生课程《大数据技术原理与应用》上机练习熟悉常用的HDFS操作主讲教师：林子雨厦门大学数据库实验室二零一五年九月目录目录目录1作业题目12作业目的13作业性质14作业考核方法15作业提交日期与方式16实验平台17实验内容和要求18实验报告2附录1:任课教师介绍2附录2：课程教材介绍2厦门大学计算机科学系研究生课程《大数据技术基础》上机练习大数据技术原理与应用主讲教师：林子雨http://www.cs.xmu.edu.cn/linziyu第5页厦门大学计算机科学系研究生课程《大数据技术基础》上

2、机练习大数据技术原理与应用《大数据技术原理与应用》熟悉常用的HDFS操作上机练习说明主讲教师：林子雨E-mail:ziyulin@xmu.edu.cn个人主页：http://www.cs.xmu.edu.cn/linziyu1作业题目熟悉常用的HDFS操作。2作业目的（1）理解HDFS在Hadoop体系结构中的角色；（2）熟练使用HDFS操作常用的Shell命令；（3）熟悉HDFS操作常用的JavaAPI。3作业性质课后作业，必做，作为课堂平时成绩。4作业考核方法提交上机实验报告，任课老师根据上机实验报告评定成绩

3、。5作业提交日期与方式林子雨编著《大数据技术原理与应用》教材第三章分布式文件系统HDFS内容结束后的下一周周六晚上9点之前提交。6实验平台操作系统：LinuxHadoop版本：1.2.1或以上版本JDK版本：1.6或以上版本JavaIDE：Eclipse7实验内容和要求首先，编程实现以下指定功能，并利用Hadoop提供的Shell命令完成相同任务：（1）向HDFS中上传任意文本文件，如果指定的文件在HDFS中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件；（2）从HDFS中下载指定文件，如果本地文件与

4、要下载的文件名称相同，则自动对下载的文件重命名；（3）将HDFS中指定文件的内容输出到终端中；（4）显示HDFS中指定的文件的读写权限、大小、创建时间、路径等信息；主讲教师：林子雨http://www.cs.xmu.edu.cn/linziyu第5页厦门大学计算机科学系研究生课程《大数据技术基础》上机练习大数据技术原理与应用（1）给定HDFS中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息；（2）提供一个HDFS内的文件的路径，对该文

5、件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录；（3）提供一个HDFS的目录的路径，对该目录进行创建和删除操作。创建目录时，如果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当该目录不为空时是否还删除该目录；（4）向HDFS中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾；（5）删除HDFS中指定的文件；（6）删除HDFS中指定的目录，由用户指定目录中如果存在文件时是否删除目录；（7）在HDFS中，将文件从源路径移动到目的路径。其次，编程实现一个类“MyFSDataI

6、nputStream”，该类继承“org.apache.hadoop.fs.FSDataInputStream”，要求如下：（1）实现按行读取HDFS中指定文件的方法“readLine()”，如果读到文件末尾，则返回空，否则返回文件一行的文本。（2）实现缓存功能，即利用“MyFSDataInputStream”读取若干字节数据时，首先查找缓存，如果缓存中有所需数据，则直接由缓存提供，否则向HDFS读取数据。查看Java帮助手册或其它资料，用“java.net.URL”和“org.apache.hadoop.fs.

7、FsURLStreamHandlerFactory”编程完成输出HDFS中指定文件的文本到终端中。1实验报告厦门大学计算机系研究生课程《大数据技术原理与应用》实验报告题目：姓名日期实验环境：实验内容与完成情况：出现的问题：解决方案（列出遇到的问题和解决办法，列出没有解决的问题）：附录1:任课教师介绍林子雨(1978－),男,博士,厦门大学计算机科学系助理教授,主要研究领域为数据库,实时主动数据仓库,数据挖掘.主讲课程：《大数据技术基础》办公地点：厦门大学海韵园科研2号楼E-mail:ziyulin@xmu.edu

8、.cn个人主页：http://www.cs.xmu.edu.cn/linziyu数据库实验室网站：http://dblab.xmu.edu.cn附录2：课程教材介绍主讲教师：林子雨http://www.cs.xmu.edu.cn/linziyu第5页厦门大学计算机科学系研究生课程《大数据技术基础》上机练习大数据技术原理与应用《大数据技术原理与应用——概念、存储、处理、分析