如何构建下一代大数据架构——数据湖
如何创建一个适用于多样数据类型,并可扩展的敏捷数据平台?答案就在数据湖中!
图片源于网络
技术和软件的进步使我们能够处理和分析大量数据。虽然很明显,大数据是一个企业投入了大量资金的热门话题,但要注意,除了考虑数据规模,我们还需要考虑到被分析数据类型的多样性。数据种类不同意味着数据集可以存储在许多格式和存储系统中,每个类型都有自己的特征。
考虑数据多样性是一项艰巨的任务,但有一种方法可以使你360度全面了解你的客户,提供商和运营商。为了实现这种方法,我们需要实现下一代大数据架构。接下来,我们来看一下如何构建下一代大数据架构。
如今,较具前瞻性的企业都越来越依赖数据湖。数据湖是管理事务数据库,同时,数据湖也可以看做是一个大数据分析平台。数据湖支持不同来源的数据,如文件,点击流,IoT传感器数据,社交网络数据和SaaS应用程序数据。
数据湖的核心原则是存储原始的,未经改变的数据。这让数据分析和探索更具有灵活性,并且还允许查询和算法基于历史和当前数据,而不是基于单个时间点的快照来演变。数据湖可将数据集中到一个公共存储库中,以此避免信息孤岛。该存储库很可能分布在许多物理机上,但最终将为用户提供透明访问和基础分布式存储的统一视图。此外,数据不仅是分布式的而且是复制的,因此可以确保数据的易访问和可用性。
数据湖存储所有类型的数据,包括结构化和非结构化数据,并通过整个企业的统一视图提供民主化访问。通过这种方法,用户可以在单个平台支持许多不同的数据源和数据类型。 数据库加强了企业现有的IT基础架构,与传统应用程序集成,增强(甚至替换)企业数据仓库(EDW)环境,并可利用日益增长的数据种类和数据量为新应用程序提供支持。
能够存储不同类型的数据是数据湖的一个重要特征,这保证了用户不会丢弃任何有价值的元数据或原属性,不同的数据分析技术也可用于数据的各阶段,避免了仅在其被聚合或变换之后才处理数据而产生的限制。创建可以使用不同算法查询的统一存储库,包括传统EDW环境范围之外的SQL备选方案,是数据湖的标志和大数据战略的基本部分。
为了实现数据湖的最大价值,必须保证数据的质量和可靠性——即确保数据湖可以恰当地反映公司业务。可以轻松访问,让用户能够更快识别他们想要使用的数据。为了管理数据湖,关键是具有清理,保护和操作数据的流程。
构建数据湖不是一个简单的过程,必须决定采集哪些数据,以及如何组织和编目数据。 虽然它不是一个自动化的过程,但有相应的工具和产品来简化企业级现代数据湖架构的创建和管理。这些工具允许提取不同类型的数据包括流,结构化和非结构化,所有这些都为敏捷数据湖平台的创建打下了基础。
本文作者:zyy
来源:51CTO

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
《Oracle达人修炼秘籍:Oracle 11g数据库管理与开发指南 》一第2章 Oracle数据库简介
第2章 Oracle数据库简介 Oracle数据库是当前应用最广泛的大型关系数据库管理系统,在数据库市场占据主导地位。本章将介绍Oracle数据库发展、性能特点、Oracle网格技术、Oracle 11g的新特性以及系统应用架构等。通过对本章的学习,读者可以了解Oracle数据库产品的特性及应用。
- 下一篇
潜伏着的物联网风险
至今,仍有人认为物联网是将来的事情。实际上,物联网设备已经在保健、政府、制造、金融和其它行业崭露头角。据权威机构IDC预计,在未来的五年内物联网在未来的五年内必将进入所有行业,并且在未来的两年内大多数IT网络将遭到与物联网有关的攻击。 还有研究表明,与物联网有关的风险和漏洞正在企业中出现,这是因为企业缺乏物联网的设备管理,例如缺少监视和打补丁的机制。而且,大量的企业还没有实施任何控制,无法防止未获得授权的设备连接到公司网络。 物联网漏洞现在已经存在,而且连接到公司网络和访问公司数据的新设备可谓日益剧增。 本文将探讨与物联网有关的安全问题,并提供相关策略和建议,探究如何做好准备应对这些威胁。 物联网风险 当今企业的网络连接几乎包括从雇员设备到空调、照明系统等一切对象。设备类型千差万别。例如,医院内部那些不可管理的或未被管理的连网设备与炼油厂、污水处理厂、生产车间的连网设备就有很大不同。一般说来,设备属于IT基础架构的范畴,因为IT部门拥有、管理、控制着IP地址、以太网、无线连接设备,以及运营的基础设施(如传感器和连接器等)。从安全的意义上说,物联网并不是只有一种问题,而是成千上万,而且每...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
-
Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS8编译安装MySQL8.0.19
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- MySQL8.0.19开启GTID主从同步CentOS8
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- CentOS7,8上快速安装Gitea,搭建Git服务器
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
推荐阅读
最新文章
- MySQL8.0.19开启GTID主从同步CentOS8
- Windows10,CentOS7,CentOS8安装Nodejs环境
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS关闭SELinux安全模块
- CentOS7设置SWAP分区,小内存服务器的救世主
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- CentOS7,8上快速安装Gitea,搭建Git服务器