课程

课程介绍

本课程的授课师资都是有着多年在一线从事Hadoop与Spark大数据项目的资深讲师,采用原理技术剖析和实战案例相结合的方式开展互动教学、强化以建立大数据项目解决方案为主体的应用开发、技术讨论与交流咨询,在学习的同时促进讲师学员之间的交流,让每个学员都能在课程培训过程中学到实实在在的大数据技术知识体系,以及大数据技术应用实战技能,具备实际大数据应用项目的动手开发实践与运维管理部署能力。授课过程中,根据学员需求,增设交流环节,可将具体工作中遇到的实际问题展开讨论,讲师会根据学员的实际情况微调授课内容,由讲师带着全部学员积极讨论,并给出一定的时间让学员上台发言,现场剖析问题的症结,规划出可行的解决方案。

培训对象

大数据人员,开发人员、架构师、运维工程师、对大数据有兴趣的朋友

课程收益

1. 深刻理解在“互联网+”时代下大数据的产生背景、发展历程和演化趋势
2. 了解业界市场需求和国内外最新的大数据技术潮流,洞察大数据的潜在价值
3. 理解大数据项目解决方案及业界大数据应用案例,从而为企业在大数据项目中的技术选型及技术架构设计提
4. 掌握业界最流行的Hadoop与Spark大数据技术体系
5. 掌握大数据采集技术
6. 掌握大数据分布式存储技术
7. 掌握NoSQL与NewSQL分布式数据库技术
8. 掌握大数据仓库与统计机器学习技术
9. 掌握大数据分析挖掘与商业智能(BI)技术
10.掌握大数据离线处理技术
11.掌握Storm流式大数据处理技术
12.掌握基于内存计算的大数据实时处理技术
13.掌握大数据管理技术的原理知识和应用实战
14.深入理解大数据平台技术架构和使用场景
15.娴熟运用Hadoop与Spark大数据技术体系规划解决方案满足实际项目需求
16.熟练地掌握基于Hadoop与Spark大数据平台进行应用程序开发、集群运维管理和性能调优技巧

知识概要

大数据技术基础;业界主流的大数据技术方案;大数据计算模型(一)——批处理MapReduce;大数据存储系统与应用实践;Hadoop框架与生态发展,以及应用实践操作;大数据计算模型(二)——实时处理/内存计算 Spark;大数据仓库查询技术Hive、SparkSQL、Impala,以及应用实践;Hadoop集群运维监控工具;大数据计算模型(三)——流处理Storm, SparkStreaming;大数据ETL操作工具,与大数据分布式采集系统;面向OLTP型应用的NoSQL数据库及应用实践;大数据项目选型、实施、优化等问题交流讨论

课程大纲

模块

学习内容

第一天 上午

大数据技术基础

大数据的产生背景与发展历程

大数据的4V特征,以及与云计算的关系

大数据应用需求以及潜在价值分析

业界*新的大数据技术发展态势与应用趋势

大数据项目的系统与技术选型,及落地实施的挑战

“互联网 ”时代下的电子商务、制造业、零售批发、电信运营商、互联网金融业、电子政务、移动互联网、教育信息化等行业实践与应用案例介绍

业界主流的大数据技术方案

大数据软硬件系统全栈与关键技术介绍

主流的大数据解决方案介绍

Apache大数据平台方案剖析

CDH大数据平台方案剖析

HDP大数据平台方案剖析

大数据解决方案与传统数据库方案比较

大数据计算模型(一)——批处理MapReduce

MapReduce产生背景与适用场景

MapReduce计算模型的基本原理

MapReduce作业执行流程

MapReduce基本组件,JobTracker和TaskTracker

MapReduce高级编程应用,Combiner和Partitioner

MapReduce性能优化技巧

MapReduce案例分析与开发实践操作

第一天 下午

大数据存储系统与应用实践

分布式文件系统HDFS产生背景与适用场景

HDFS master-slave系统架构与工作原理

HDFS核心组件技术讲解

HDFS高可用**机制

HDFS集群的安装、部署与配置,熟练HDFS shell命令操作

分布式小文件存储系统的平台架构、核心技术与应用场景

分布式对象存储系统的平台架构、核心技术与应用场景

Hadoop框架与生态发展,以及应用实践操作

Hadoop的发展历程

Hadoop大数据生态圈系统与工具全貌介绍

Hadoop 1.0的核心组件与适用范围

Hadoop 2.0的核心组件YARN工作原理,以及与Hadoop 1.0的区别

Hadoop资源管理与作业调度机制

Hadoop常用性能优化技术

Hadoop集群安装与部署实践,以及MapReduce程序在YARN上执行

第二天 上午

大数据计算模型(二)——实时处理/内存计算 Spark

MapReduce计算模型的瓶颈

Spark产生动机、基本概念与适用场景

Spark编程模型与RDD弹性分布式数据集的工作原理与机制

Spark实时处理平台运行架构与核心组件

Spark容错机制、Spark作业调度机制、Scala开发介绍与实践

Spark集群部署与配置实践,Spark开发环境构建,Spark案例程序分析,Spark程序开发与运行,Spark与Hadoop集群集成实践

第二天 下午

大数据仓库查询技术Hive、SparkSQL、Impala,以及应用实践

基于MapReduce的大型分布式数据仓库Hive基础知识与应用场景

Hive数据仓库的平台架构与核心技术剖析

Hive metastore的工作机制与应用

Hive数据仓库实践:Hive集群安装部署,数据仓库表导入导出与分区操作,Hive SQL操作,Hive客户端操作

基于Spark的大型分布式数据仓库SparkSQL基础知识与应用场景

Spark SQL实时数据仓库的实现原理与工作机制

SparkSQL应用分析与操作实践

基于MPP的大型分布式数据仓库Impala基础知识与应用场景

Impala实时查询系统平台架构、关键技术剖析

Hadoop集群运维监控工具

Hadoop大数据运维监控管理系统HUE平台介绍

Hadoop运维管理监控系统Ambari工具介绍

第三方运维系统与工具Ganglia, Nagios

第三天 下午

大数据计算模型(三)——流处理Storm, SparkStreaming

流数据处理应用场景与流数据处理的特点

流数据处理工具Storm的平台架构与集群工作原理

Storm关键技术与并发机制

Storm编程模型与基本开发模式

Storm数据流分组

Storm可靠性**与Acker机制

Storm应用案例分析与实践:Storm集群安装部署,Storm程序开发运行操作实践,Storm与Hadoop集群的集成

流数据处理工具Spark Streaming基本概念与数据模型

Spark Streaming工作机制

大数据ETL操作工具,与大数据分布式采集系统

Hadoop与DBMS之间数据交互工具的应用

 Sqoop导入导出数据的工作原理,以及Sqoop工具的安装部署与实践操作,利用Sqoop实现MySQL与Hadoop集群之间的数据导入导出交互

Flume-NG数据采集系统的数据流模型与系统架构

Kafka分布式消息订阅系统的应用介绍与平台架构,及其使用模式

第三天 下午

面向OLTP型应用的NoSQL数据库及应用实践

关系型数据库瓶颈,以及NoSQL数据库的发展,概念,分类,及其在半结构化和非结构化数据场景下的适用范围

列存储NoSQL数据库HBase简介与数据模型剖析

HBase分布式集群系统架构与读写机制,ZooKeeper分布式协调服务系统的工作原理与应用

HBase表设计模式与primary key设计规范

HBase分布式集群安装、部署与操作实践

文档NoSQL数据库MongoDB简介与数据模型剖析

MongoDB集群模式、读写机制与常用API操作

Cassandra分布式数据库的平台架构以及关键技术

Cassandra一致性哈希算法与数据分布策略,以及NWR策略

键值型NoSQL数据库Redis简介与数据模型剖析

Redis多实例集群架构与关键技术

NewSQL数据库技术简介及其适用场景

大数据项目选型、实施、优化等问题交流讨论

大数据项目的需求分析、应用实施、系统优化,以及解决方案等咨询与交流讨论

认证过程

无认证考试

开班信息

  • 课程名称:大数据平台搭建与高性能计算最佳实战
  • 时间:12/16-12/18考试费用:
  • 地点:上海市恒通路一天下大厦A802培训费用:5800 RMB
  • 联系人:吴老师邮箱:johnson.wu@consultfuture.com
  • 电话:021-63530102-813传真:021-63530102-818
我要报名

相关课程