【最佳实践】ingest对异源数据结构化处理，并由Elastic Stack实现可观测性分析

数据集

在我们的实际数据采集中，数据可能来自不同的来源，并且以不同的形式展展现：

这些数据可以是一种很结构化的数据被摄入，比如数据库中的数据， 或者就是一组最原始的非结构化的数据，比如日志。对于一些非结构化的数据，我们该如何把它们结构化，并使用 Elasticsearch 进行分析呢？

结构化数据

就如上面的数据展示的那样。在很多的情况下，数据在摄入的时候是一种非结构化的形式来呈现的。这个数据通常有一个叫做 message 的字段。为了能达到结构化的目的，我们们需要 parse 及 transform 这个 message 字段，并把这个 message 变为我们所需要的字段，从而达到结构化的母的。让我们看一个例子。假如我们有如下的信息：

{ "message": "2019-09-29T00:39:02.9122 [Debug]