V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
hansonwang99
V2EX  ›  推广

利用 ELK 搭建 Docker 容器化应用日志中心

  •  
  •   hansonwang99 · 2018-04-03 07:23:58 +08:00 · 4873 次点击
    这是一个创建于 2431 天前的主题,其中的信息可能已经有所发展或是发生改变。

    封面图片


    概述

    应用一旦容器化以后,需要考虑的就是如何采集位于 Docker 容器中的应用程序的打印日志供运维分析。典型的比如 SpringBoot 应用的日志 收集。本文即将阐述如何利用 ELK 日志中心来收集容器化应用程序所产生的日志,并且可以用可视化的方式对日志进行查询与分析,其架构如下图所示:

    架构图


    镜像准备

    镜像准备

    • ElasticSearch 镜像
    • Logstash 镜像
    • Kibana 镜像
    • Nginx 镜像(作为容器化应用来生产日志)

    开启 Linux 系统 Rsyslog 服务

    修改 Rsyslog 服务配置文件:

    vim /etc/rsyslog.conf
    

    开启下面三个参数:

    $ModLoad imtcp
    $InputTCPServerRun 514
    
    *.* @@localhost:4560
    

    开启 3 个参数

    意图很简单:让 Rsyslog 加载 imtcp 模块并监听 514 端口,然后将 Rsyslog 中收集的数据转发到本地 4560 端口!

    然后重启 Rsyslog 服务:

    systemctl restart rsyslog
    

    查看 rsyslog 启动状态:

    netstat -tnl
    

    netstat -tnl


    部署 ElasticSearch 服务

    docker run -d  -p 9200:9200 \
     -v ~/elasticsearch/data:/usr/share/elasticsearch/data \
     --name elasticsearch elasticsearch
    

    ES 启动成功效果


    部署 Logstash 服务

    添加 ~/logstash/logstash.conf 配置文件如下:

    input {
      syslog {
        type => "rsyslog"
        port => 4560
      }
    }
    
    output {
      elasticsearch {
        hosts => [ "elasticsearch:9200" ]
      }
    }
    

    配置中我们让 Logstash 从本地的 Rsyslog 服务中取出应用日志数据,然后转发到 ElasticSearch 数据库中!

    配置完成以后,可以通过如下命令来启动 Logstash 容器:

    docker run -d -p 4560:4560 \
    -v ~/logstash/logstash.conf:/etc/logstash.conf \
    --link elasticsearch:elasticsearch \
    --name logstash logstash \
    logstash -f /etc/logstash.conf
    

    image.png


    部署 Kibana 服务

    docker run -d -p 5601:5601 \
    --link elasticsearch:elasticsearch \
    -e ELASTICSEARCH_URL=http://elasticsearch:9200 \
    --name kibana kibana
    

    image.png


    启动 nginx 容器来生产日志

    docker run -d -p 90:80 --log-driver syslog --log-opt \
    syslog-address=tcp://localhost:514 \
    --log-opt tag="nginx" --name nginx nginx
    

    很明显 Docker 容器中的 Nginx 应用日志转发到本地 syslog 服务中,然后由 syslog 服务将数据转给 Logstash 进行收集。

    至此,日志中心搭建完毕,目前一共四个容器在工作:

    image.png

    实验验证

    • 浏览器打开localhost:90来打开 Nginx 界面,并刷新几次,让后台产生 GET 请求的日志

    • 打开 Kibana 可视化界面:localhost:5601

    localhost:5601

    • 收集 Nginx 应用日志

    收集 Nginx 应用日志

    • 查询应用日志

    在查询框中输入program=nginx可查询出特定日志

    查询应用日志


    后记


    CodeSheep

    12 条回复    2018-06-08 11:08:45 +08:00
    raptor
        1
    raptor  
       2018-04-03 08:09:32 +08:00
    我是直接 用 sebp/elk 来搞,省事
    bayker
        2
    bayker  
       2018-04-03 08:25:08 +08:00
    @raptor 上次腾讯云上用 sebp/elk,然后腾讯有一直发短信,说有木马病毒。。
    cqxxxxxxx
        3
    cqxxxxxxx  
       2018-04-03 09:22:15 +08:00 via Android
    马克
    micookie
        4
    micookie  
       2018-04-03 10:33:52 +08:00
    求电脑贴纸链接
    kushao1267
        5
    kushao1267  
       2018-04-03 10:47:04 +08:00 via iPhone
    sebp/elk 或自己配容器都行,看有木有时间吧
    lawmil
        6
    lawmil  
       2018-04-03 10:53:53 +08:00
    mark
    xuelu520
        7
    xuelu520  
       2018-04-03 11:09:01 +08:00
    mark
    htfy96
        8
    htfy96  
       2018-04-03 11:18:57 +08:00
    自己配 ELK 太麻烦了,我选择 logz.io
    xiaoyu9527
        9
    xiaoyu9527  
       2018-04-03 11:28:44 +08:00
    @htfy96 在哪里找这些很好的工具站呀
    Tianny
        10
    Tianny  
       2018-04-03 11:51:15 +08:00
    mark
    dlllcs
        11
    dlllcs  
       2018-04-03 13:10:26 +08:00
    mark
    raptor
        12
    raptor  
       2018-06-08 11:08:45 +08:00
    @bayker 我在腾讯云上用这个两年了,没见过这个提示
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3398 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 11:36 · PVG 19:36 · LAX 03:36 · JFK 06:36
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.