大数据实训方案

《大数据实训方案》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、大数据实训教学大纲5/5一、实训目标基于Hadoop为核心，通过实训，达成以下目的：Ø认识大数据，认识大数据技术在新时代对企业的重要性。Ø掌握Linux的基础知识和应用Ø掌握hadoop集群环境的搭建。Ø熟悉HDFS分布式文件系统的原理，掌握HDFS的API的开发。Ø通过实际案例的开发，了解MapReduce原理，掌握MapReduce的开发技术。Ø了解Hive，学习Hive集群的搭建。掌握Hive的DML和DDL相关技术。Ø认识ZooKeeper，学些ZooKeeper集群的搭建，了解ZooKeeper在Hadoop集

2、群中的作用。Ø了解HBase原理和架构，掌握HBaseAPI编程，掌握HBase数据的导入和导出。Ø通过综合案例实践，掌握Hadoop以及相关框架的开发和应用。二、实训课程内容介绍1、课程大纲项目实战技能培训项目阶段任务分解说明任务说明项目启动实习总动员项目管理培1、学生分组5/5训1、通过案例初步认识大数据技术速成Linux入门技术培训1、Linux简介、安装2、常用命令3、文件权限及操作4、用户及权限管理5、Linux下搭建Java开发环境Hadoop入门1、Hadoop介绍2、Hadoop安装配置3、hadoop初

3、始化和测试4、配置ssh免密码登陆配置和ssh原理HDFS1、HDFS原理2、HDFS的shell操作3、HDFS原理4、HDFS的java接口5、HadoopRPC6、HDFS读取数据过程Map-Reduce1、MR介绍2、WordCount执行流程和代码编写5/53、MR排序4、Combiner编程5、shuffle过程Hive1、Hive入门安装2、DDL数据定义语言3、DML数据操作语言4、Hive安装mysqlmetastore5、Hive分区表6、Hive的UDF7、倒排索引ZooKeeper1、ZooKee

4、per介绍2、ZooKeeper客户端使用3、hadoop集群搭建4、Hadoop集群测试Hbase1、HBase入门2、HBaseJava编程3、Hbase架构讲解4、MRonHbase5/55、HiveonHbase6、Hbase集群管理7、Hbase数据导入8、Hbase备份与恢复项目验收准备1、制定验收规则2、如何制作PPT3、如何演说发布总结项目验收项目验收、关闭经验总结1、  项目验收与评分2、 项目关闭：总结项目经验与教训3、职业规划5/5