本项目基于某公司开发的手机测速软件采集的数据对用户的手机网速、上行下行流量，网络制式、信号强度等信息进行宏观分析。根据数据分析，能够计算出用户附近移动、联通、电信、哪家信号更好。或提示用户哪个方向自己使用的运营商信号好。这样用户就能够有选择性的选择信号好的方向、好的位置上网。 同时能够给各家运营商提供有力的参考数据,如同一地标三家运营商信号强度对比，这样信号强度较差的运营商便可以有选择的增加信号设备。

课程亮点：

1、系统的设计方法是采用面向对象的设计。本系统前端页面交互主要采用B/S的结构，采用MVC及流式数据的设计思路进行规划设计。

2、前端数展现使用Echarts技术。与地图相关的报表使用百度地图提供的API。

3、后端实时数据，实时接入mysql。为了不影响线上系统的正常使用，同时能够将数据发送到大数据平台，本项目使用Canal来解析实时数据，Flume收集数据并数据发送到实时计算业务流程和离线计算两个流程中。实时数据处理流程使用Canal+Flume+Kafka+SparkStreaming等技术。离线计算使用HDFS+Hive+Azkaban等技术。

4、设计过程中对系统的可靠性、可扩展性以及性能进行了充分考虑和研究分析，争取通过良好的设计，在实现系统功能的前提下，最大化的提高系统性能和扩展性，减少将来的维护代价和其他成本。

适用人群：

1、对大数据Spark感兴趣的在校生及应届毕业生。

2、对目前职业有进一步提升要求，希望从事大数据行业高薪工作的在职人员。

3、对大数据行业感兴趣的相关人员。

第一章 项目概述

1课程内容

1. 系统介绍

2. 模块介绍

3. 数据流程描述

4. 逻辑架构设计

5. 功能描述

6. 系统架构

第二章  离线数据入库

1. 数据上传

2. 创建数据表

3. 数据拆分

4. 数据表加载

第三章 离线数据整理

1. 业务SQL语句编写

2. 整理SQL语句生成结果表的结构及字段

3. 根据结果表所需的字段，在原始表中抽取该字段

4. 数据加工及入库

5. 创建索引

第四章 实时数据生成及计算

1. Mysql 数据写入

2. canal 解析mysql实时数据写入本地

3. Flume收集数据将数据上传至集群

4. SparkStreaming 实时计算