您现在的位置是:首页 > 文章详情

大数据平台网站日志分析系统

日期:2018-11-29点击:570

1:大数据平台网站日志分析系统,项目技术架构图:

images/jYMrSwfBA4cpWZQ6P8fFNtQEZAEKDf7c.png

2:大数据平台网站日志分析系统,流程图解析,整体流程如下:

images/5TFMS5hDGZGxHCbihNAB2RNNwTG4njSY.png

ETL即hive查询的sql;

但是,由于本案例的前提是处理海量数据,因而,流程中各环节所使用的技术则跟传统BI完全不同:

1) 数据采集:定制开发采集程序,或使用开源框架FLUME

2) 数据预处理:定制开发mapreduce程序运行于hadoop集群

3) 数据仓库技术:基于hadoop之上的Hive

4) 数据导出:基于hadoop的sqoop数据导入导出工具

5) 数据可视化:定制开发web程序或使用kettle等产品

6) 整个过程的流程调度:hadoop生态圈中的oozie工具或其他类似开源产品

3:在一个完整的大数据处理系统中,除了hdfs+mapreduce+hive组成分析系统的核心之外,还需要数据采集、结果数据导出、任务调度等不可或缺的辅助系统,而这些辅助工具在hadoop生态体系中都有便捷的开源框架,如图所示:

images/YKM7hSydThFXJdxGNXE3tFEeGrfFnzJN.png

 4:采集网站的点击流数据分析项目流程图分析:

images/BKxX5rSY72n8feZCSjHtEt8bmeyixybK.png5:流式计算一般架构图:

images/wTHiGpQdMBYETSc7NDMKiNQs5czRpaKJ.png

本文链接https://yq.aliyun.com/articles/310549?spm=5176.100239.bloghomeflow.640.497d8029wDyzuh

原文链接:https://blog.roncoo.com/article/131689
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章