ELK之Logstash如何安装与导入数据

云计算

这篇文章主要介绍了ELK之Logstash如何安装与导入数据,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

 数据集下载

下载地址:https://grouplens.org/datasets/movielens/

 我们选择最小数据集即可 Logstash 下载与安装

首先去官网下载 Logstash 安装包:https://www.elastic.co/downloads/logstash

 logstash download

如果下载速度太慢可以选用这个代理地址下载:http://mirror.azk8s.cn/elastic/logstash/

 azk8s

下载完安装包并解压进入config目录:

 logstash-config

同时配置如下内容,你只需要按照你的数据集的路径改一下配置文件中最开始的path即可:

logstash.confinput {
 file {
   path => \”/Users/tanjian/Desktop/logstash-7.6.1/movielens/ml-latest-small/movies.csv\” # 这里指定数据集路径
   start_position => \”beginning\”
   sincedb_path => \”/dev/null\”
 }
}
filter {
 csv {
   separator => \”,\”
   columns => [\”id\”,\”content\”,\”genre\”]
 }

 mutate {
   split => { \”genre\” => \”|\” }
   remove_field => [\”path\”, \”host\”,\”@timestamp\”,\”message\”]
 }

 mutate {

   split => [\”content\”, \”(\”]
   add_field => { \”title\” => \”%{[content][0]}\”}
   add_field => { \”year\” => \”%{[content][1]}\”}
 }

 mutate {
   convert => {
     \”year\” => \”integer\”
   }
   strip => [\”title\”]
   remove_field => [\”path\”, \”host\”,\”@timestamp\”,\”message\”,\”content\”]
 }

}
output {
  elasticsearch {
    hosts => \”http://localhost:9200\”
    index => \”movies\”
    document_id => \”%{id}\”
  }
 stdout {}
}
   Logstash 运行

配置好上面的logstash.conf文件后,我们就可以启动 Logstash 并开始导入数据了:

sudo ./bin/logstash -f config/logstash.conf
 

如下图 Logstash 日志所示,正在导入数据集:

 logstash log 打开 Kibana 查看数据

在查看数据之前,我们需要打开http://localhost:5601通过 Kibana 创建一个 Index Pattern:

 Index Pattern

之后,我们就可以通过Discover去查看我们的数据了:

 Discover

剩下的就交给你自己折腾吧,你可以去Dev Tools通过 QSL 语法搜索数据熟悉一下语法。

感谢你能够认真阅读完这篇文章,希望小编分享的“ELK之Logstash如何安装与导入数据”这篇文章对大家有帮助,同时也希望大家多多支持箭头云,关注资讯频道,更多相关知识等着你来学习!

更多关于云服务器域名注册虚拟主机的问题,请访问西部数码官网:www.west.cn

赞(0)
声明:本网站发布的内容(图片、视频和文字)以原创、转载和分享网络内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-62778877-8306;邮箱:fanjiao@west.cn。本站原创内容未经允许不得转载,或转载时需注明出处:西部数码知识库 » ELK之Logstash如何安装与导入数据

登录

找回密码

注册