【最佳实践】ingest对异源数据结构化处理,并由Elastic Stack实现可观测性分析
数据集
在我们的实际数据采集中,数据可能来自不同的来源,并且以不同的形式展展现:
这些数据可以是一种很结构化的数据被摄入,比如数据库中的数据, 或者就是一组最原始的非结构化的数据,比如日志。对于一些非结构化的数据,我们该如何把它们结构化,并使用 Elasticsearch 进行分析呢?
结构化数据
就如上面的数据展示的那样。在很多的情况下,数据在摄入的时候是一种非结构化的形式来呈现的。这个数据通常有一个叫做 message 的字段。为了能达到结构化的目的,我们们需要 parse 及 transform 这个 message 字段,并把这个 message 变为我们所需要的字段,从而达到结构化的母的。让我们看一个例子。假如我们有如下的信息:
{
"message": "2019-09-29T00:39:02.9122 [Debug]
