如何构建下一代大数据架构——数据湖

如何创建一个适用于多样数据类型，并可扩展的敏捷数据平台?答案就在数据湖中!

图片源于网络

技术和软件的进步使我们能够处理和分析大量数据。虽然很明显，大数据是一个企业投入了大量资金的热门话题，但要注意，除了考虑数据规模，我们还需要考虑到被分析数据类型的多样性。数据种类不同意味着数据集可以存储在许多格式和存储系统中，每个类型都有自己的特征。

考虑数据多样性是一项艰巨的任务，但有一种方法可以使你360度全面了解你的客户，提供商和运营商。为了实现这种方法，我们需要实现下一代大数据架构。接下来，我们来看一下如何构建下一代大数据架构。

如今，较具前瞻性的企业都越来越依赖数据湖。数据湖是管理事务数据库，同时，数据湖也可以看做是一个大数据分析平台。数据湖支持不同来源的数据，如文件，点击流，IoT传感器数据，社交网络数据和SaaS应用程序数据。

数据湖的核心原则是存储原始的，未经改变的数据。这让数据分析和探索更具有灵活性，并且还允许查询和算法基于历史和当前数据，而不是基于单个时间点的快照来演变。数据湖可将数据集中到一个公共存储库中，以此避免信息孤岛。该存储库很可能分布在许多物理机上，但最终将为用户提供透明访问和基础分布式存储的统一视图。此外，数据不仅是分布式的而且是复制的，因此可以确保数据的易访问和可用性。

数据湖存储所有类型的数据，包括结构化和非结构化数据，并通过整个企业的统一视图提供民主化访问。通过这种方法，用户可以在单个平台支持许多不同的数据源和数据类型。 数据库加强了企业现有的IT基础架构，与传统应用程序集成，增强(甚至替换)企业数据仓库(EDW)环境，并可利用日益增长的数据种类和数据量为新应用程序提供支持。

能够存储不同类型的数据是数据湖的一个重要特征，这保证了用户不会丢弃任何有价值的元数据或原属性，不同的数据分析技术也可用于数据的各阶段，避免了仅在其被聚合或变换之后才处理数据而产生的限制。创建可以使用不同算法查询的统一存储库，包括传统EDW环境范围之外的SQL备选方案，是数据湖的标志和大数据战略的基本部分。

为了实现数据湖的最大价值，必须保证数据的质量和可靠性——即确保数据湖可以恰当地反映公司业务。可以轻松访问，让用户能够更快识别他们想要使用的数据。为了管理数据湖，关键是具有清理，保护和操作数据的流程。

构建数据湖不是一个简单的过程，必须决定采集哪些数据，以及如何组织和编目数据。 虽然它不是一个自动化的过程，但有相应的工具和产品来简化企业级现代数据湖架构的创建和管理。这些工具允许提取不同类型的数据包括流，结构化和非结构化，所有这些都为敏捷数据湖平台的创建打下了基础。

本文作者：zyy

来源：51CTO