分布式日志收集之Logstash 笔记(二)

2020腾讯云7月秒杀活动,优惠非常大!(领取2860元代金券),
地址https://cloud.tencent.com/act/cps/redirect?redirect=1040

2020阿里云最低价产品入口,含代金券(新老用户有优惠),
地址https://www.aliyun.com/minisite/goods

推荐:Logstash实践: 分布式系统的日志监控

[这篇文章讲的就是如何解决分布式系统的日志管理问题。]


今天是2015年11月06日,早上起床,北京天气竟然下起了大雪,不错,最近几年已经很少见到雪了,想起小时候冬天的样子,回忆的影子还是历历在目。

进入正题吧,上篇介绍了Logstash的基础知识和入门demo,本篇介绍几个比较常用的命令和案例
通过上篇介绍,我们大体知道了整个logstash处理日志的流程:
input  => filter => output

除了上面几个基础命令,还有ruby,mutate,gork,codes几个命令比较常用:

在线gork正则的地址: http://grokdebug.herokuapp.com/

Logstash基础正则地址: https://github.com/elastic/logstash/blob/v1.4.2/patterns/grok-patterns

如果你是做运维的,那么很幸运,内置的120多个正则,对运维人员来说非常方面,比如常见的Apache的log格式,Nginx的log格式
上面的正则库都有成型的正则式,省去了自己编写正则一大部分的工作。

如果你是做开发的,那么稍微麻烦点,开发需要面对各种业务log+系统log,这时候,掌握gork用法,使用正则提取任意内容,变得比较重要了,不过相信大部分人都会一些基础的正则,所以还是比较轻松的。

下面看几个案例:

案例(一)使用gork提取Solr搜索的log里面的一些字段内容:

例子数据(注意这是一行数据):

INFO  - 2015-11-03 06:10:53.106; [   company] org.apache.solr.core.SolrCore; [company] webapp=/solr path=/select params={mm=100%25&sort=score+desc,regCapital+desc,foundDate+asc,cpyNamePy+asc&start=0&q=+cpyName:兰州顶津食品有限公司++OR+sname:"兰州顶津食品有限公司"^10+OR+oldName:兰州顶津食品有限公司
+&wt=javabin&fq=&version=2&rows=10&defType=edismax} hits=0 status=0 QTime=2 


使用gork正则语法+内置正则,能够提取出,log级别,UTC时间,查询关键词等等内容

log级别:
%{LOGLEVEL:loglevel} 
查询时间:
%{TIMESTAMP_ISO8601:time};
查询关键词  :
cpyName:(?<kw>.*)\+\+
命中数量 :
hits=(?<hits>\d+)
查询时间
QTime=(?<qtime>\d+)
查询偏移开始:
start=(?<start>\d+)
返回数量:
rows=(?<rows>\d+)


案例(二)使用filter-date插件提取日志文件里面的时间,覆盖logstash自己默认生成log时的时间
官网介绍: https://www.elastic.co/guide/en/logstash/current/plugins-filters-date.html
这个案例也比较常见,因为我们需要的时间,肯定是log日志里面记录的时间,而不是logstash接入时的那个时间,

推荐:分布式日志收集之Logstash 笔记(一)

[(一)logstash是什么? logstash是一种分布式日志收集框架,开发语言是JRuby,当然是为了与Java平台对接,不过与Ruby语法兼容良好,非常简洁强大,经常与ElasticSearch

保证时间正确,才能在
Kibana里面正确的展示,关于UTC时间的+8的问题,这里就不说了,搜索时自己可以控制搜到正确的内容即可

内容如下截图,写了一个固定的时间:





结果如下图,已经被转换成UTC时间







案例(三)使用ruby内嵌代码,将一个yyyy-MM-dd HH:mm:ss格式的日期,转换成long时间戳

接着案例二的代码,再其filter里面再加入如下一段代码:




运行后,再看结果:



写个程序验证是否正确,发现没有问题:






如果会点JRuby或者Ruby语法,来使用Logstash则可以做更多的自定义的处理任务

案例(四)使用codec+multiline来处理跨行的日志

什么场景下,需要使用multiline插件呢? 最常见的就是我们的log4j里面的记录的java程序发生异常时,经常
会抛出一大堆异常,如下:






注意这么多行日志,从业务角度来讲,它是一行的,如果默认我们不做任何处理,logstash就会把它解析成多个事件,这样以来
基本上偏离了我们预期的设想,那么该如何处理呢?

方法(1):
在input阶段的编码过程中,加入正则判断:






方法(2):
还是在input阶段,但是使用的触发模式,直到遇到下一行日志前,把这一行与下一行之间的所有内容都当成是一行,这种做法比较简单,优点时在性能与准确度上可能会比上一个方法好,但是缺点是,必须有下一行日志产生,当前的这一行日志,才能被收集完毕 !







参考文章: http://blog.sematext.com/2015/05/26/handling-stack-traces-with-logstash/


案例(五)使用mutate+gsub来去除一些字段里面的换行符

 mutate {
    gsub => [ "message", "\r", "" ]
  }

gork过滤例子:
input { file { path => "/var/log/http.log" } }
filter {
grok {
match => { "message" => "%{IP:client} %{WORD:method} %{URIPATHPARAM:request} %{NUMBER:bytes} %{NUMBER:duration}" }
}
}


最后欢迎大家扫码关注微信公众号:我是攻城师(woshigcs),我们一起学习,进步和交流!(woshigcs)
本公众号的内容是有关搜索和大数据技术和互联网等方面内容的分享,也是一个温馨的技术互动交流的小家园,有什么问题随时都可以留言,欢迎大家来访!





相关推荐