公司新闻

2018.08.03-2018.08.04 / 大数据平台搭建

8月3-4日成功为中国银联定制大数据平台搭建与高性能计算最佳实战培训

        8月3-5日再次成功为中国银联定制大数据平台搭建与高性能计算最佳实战培训。甫崎咨询一直是中国银联最为可靠的IT培训供应商。

       本次定制培训通过一个完整的大数据开发项目及一组实际项目训练案例,完全覆盖HadoopSpark生态系统平台的应用开发与运维实践。课堂实践项目以项目小组的形式进行沙盘实操练习,重点强化理解HadoopSpark大数据项目各个阶段的工作重点,同时掌握作为大数据项目管理者的基本技术与业务素养

模块

学习内容

第一天 上午

大数据技术基础

大数据的产生背景与发展历程

大数据的4V特征,以及与云计算的关系

大数据应用需求以及潜在价值分析

业界*新的大数据技术发展态势与应用趋势

大数据项目的系统与技术选型,及落地实施的挑战

“互联网 ”时代下的电子商务、制造业、零售批发、电信运营商、互联网金融业、电子政务、移动互联网、教育信息化等行业实践与应用案例介绍

业界主流的大数据技术方案

大数据软硬件系统全栈与关键技术介绍

主流的大数据解决方案介绍

Apache大数据平台方案剖析

CDH大数据平台方案剖析

HDP大数据平台方案剖析

大数据解决方案与传统数据库方案比较

大数据计算模型(一)——批处理MapReduce

MapReduce产生背景与适用场景

MapReduce计算模型的基本原理

MapReduce作业执行流程

MapReduce基本组件,JobTracker和TaskTracker

MapReduce高级编程应用,Combiner和Partitioner

MapReduce性能优化技巧

MapReduce案例分析与开发实践操作

第一天 下午

大数据存储系统与应用实践

分布式文件系统HDFS产生背景与适用场景

HDFS master-slave系统架构与工作原理

HDFS核心组件技术讲解

HDFS高可用**机制

HDFS集群的安装、部署与配置,熟练HDFS shell命令操作

分布式小文件存储系统的平台架构、核心技术与应用场景

分布式对象存储系统的平台架构、核心技术与应用场景

Hadoop框架与生态发展,以及应用实践操作

Hadoop的发展历程

Hadoop大数据生态圈系统与工具全貌介绍

Hadoop 1.0的核心组件与适用范围

Hadoop 2.0的核心组件YARN工作原理,以及与Hadoop 1.0的区别

Hadoop资源管理与作业调度机制

Hadoop常用性能优化技术

Hadoop集群安装与部署实践,以及MapReduce程序在YARN上执行

第二天 上午

大数据计算模型(二)——实时处理/内存计算 Spark

MapReduce计算模型的瓶颈

Spark产生动机、基本概念与适用场景

Spark编程模型与RDD弹性分布式数据集的工作原理与机制

Spark实时处理平台运行架构与核心组件

Spark容错机制、Spark作业调度机制、Scala开发介绍与实践

Spark集群部署与配置实践,Spark开发环境构建,Spark案例程序分析,Spark程序开发与运行,Spark与Hadoop集群集成实践

第二天 下午

大数据仓库查询技术Hive、SparkSQL、Impala,以及应用实践

基于MapReduce的大型分布式数据仓库Hive基础知识与应用场景

Hive数据仓库的平台架构与核心技术剖析

Hive metastore的工作机制与应用

Hive数据仓库实践:Hive集群安装部署,数据仓库表导入导出与分区操作,Hive SQL操作,Hive客户端操作

基于Spark的大型分布式数据仓库SparkSQL基础知识与应用场景

Spark SQL实时数据仓库的实现原理与工作机制

SparkSQL应用分析与操作实践

基于MPP的大型分布式数据仓库Impala基础知识与应用场景

Impala实时查询系统平台架构、关键技术剖析

Hadoop集群运维监控工具

Hadoop大数据运维监控管理系统HUE平台介绍

Hadoop运维管理监控系统Ambari工具介绍

第三方运维系统与工具Ganglia, Nagios

第三天 下午

大数据计算模型(三)——流处理Storm, SparkStreaming

流数据处理应用场景与流数据处理的特点

流数据处理工具Storm的平台架构与集群工作原理

Storm关键技术与并发机制

Storm编程模型与基本开发模式

Storm数据流分组

Storm可靠性**与Acker机制

Storm应用案例分析与实践:Storm集群安装部署,Storm程序开发运行操作实践,Storm与Hadoop集群的集成

流数据处理工具Spark Streaming基本概念与数据模型

Spark Streaming工作机制

大数据ETL操作工具,与大数据分布式采集系统

Hadoop与DBMS之间数据交互工具的应用

Sqoop导入导出数据的工作原理,以及Sqoop工具的安装部署与实践操作,利用Sqoop实现MySQL与Hadoop集群之间的数据导入导出交互

Flume-NG数据采集系统的数据流模型与系统架构

Kafka分布式消息订阅系统的应用介绍与平台架构,及其使用模式

第三天 下午

面向OLTP型应用的NoSQL数据库及应用实践

关系型数据库瓶颈,以及NoSQL数据库的发展,概念,分类,及其在半结构化和非结构化数据场景下的适用范围

列存储NoSQL数据库HBase简介与数据模型剖析

HBase分布式集群系统架构与读写机制,ZooKeeper分布式协调服务系统的工作原理与应用

HBase表设计模式与primary key设计规范

HBase分布式集群安装、部署与操作实践

文档NoSQL数据库MongoDB简介与数据模型剖析

MongoDB集群模式、读写机制与常用API操作

Cassandra分布式数据库的平台架构以及关键技术

Cassandra一致性哈希算法与数据分布策略,以及NWR策略

键值型NoSQL数据库Redis简介与数据模型剖析

Redis多实例集群架构与关键技术

NewSQL数据库技术简介及其适用场景

大数据项目选型、实施、优化等问题交流讨论

大数据项目的需求分析、应用实施、系统优化,以及解决方案等咨询与交流讨论


大数据平台搭建

咨询电话:021-63530102 吴老师