基于阿里云Elasticsearch的日志采集分析展示
因业务需求,需要将阿里云入口nginx访问日志进行收集统计,最原始的办法当然是将各个nginx服务器每个都统计一遍然后进行累加,这样做很麻烦不可取,鉴于我们之前已经购买过阿里云Elasticsearch服务,就想着把nginx日志采集到阿里云elasticsearch中,最开始我们想到的是通过阿里云beats来收集,查阅阿里云官方文档介绍如下 本文以Filebeat为例,介绍安装和管理采集器(Beats)的方法。通过采集器,您可以收集云服务器ECS(Elastic Compute Service)中的日志文件、网络数据、服务器指标等数据,发送到阿里云Elasticsearch(简称ES)或阿里云Logstash中,进行监控、分析等操作。 前提条件 您已完成以下操作: 创建阿里云ES实例或Logstash实例。 详情请参见创建阿里云Elasticsearch实例和创建阿里云Logstash实例。 开启阿里云ES实例的自动创建索引功能。 处于安全考虑,阿里云ES默认不允许自动创建索引。但是Beats目前依赖该功能,因此如果采集器Output选择为Elasticsearch,需要开启自动创建索引功能,详情请参见开启自动创建索引。 创建阿里云ECS实例,且该ECS实例与阿里云ES实例或Logstash实例处于同一专有网络VPC(Virtual Private Cloud)下。