ELK+syslog+nginx访问日志收集+分词处理-创新互联

一、nginx访问日志配置:

创新互联专注于企业成都全网营销推广、网站重做改版、当阳网站定制设计、自适应品牌网站建设、H5技术商城网站开发、集团公司官网建设、外贸营销网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为当阳等各大城市提供网站开发制作服务。

1、日志格式配置:

log_format json '{"@timestamp":"$time_iso8601",'

          '"host":"$server_addr",'

          '"clientip":"$remote_addr",'

          '"size":$body_bytes_sent,'

          '"xff":"$http_x_forwarded_for",'

          '"upstreamhost":"$upstream_addr",'

          '"status":"$status",'

          '"responsetime":$request_time,'

          '"upstreamtime":"$upstream_response_time",'

          '"http_host":"$host",'

          '"url":"$uri"}';

2、访问日志配置:

access_log  syslog:server=xx.xx.xx.xx:5140 json;

二、logstash配置

input {

   syslog{

      port => "5140"

     }

}

filter {

   json {

     source =>"message"

     remove_field => ["message"]

     }

}

output {

     elasticsearch { hosts => ['xx.xx.xx.xx:9200','xx.xx.xx.xx:9200']

             index => 'nginx_rfd-%{+YYYY.MM.dd.HH}'

             template => "/usr/local/logstash/nginx.json"

             template_name => "nginx_*"

             template_overwrite => true

            }

}

注意index名称要包含到template_name里

三、自定义mappings

cat /usr/local/logstash/nginx.json

{

  "template": "nginx_*",

  "order":1,

  "settings": { "index.refresh_interval" : "60s" },

  "mappings": {

    "_default_": {

      "_all" : { "enabled" : false },

      "properties": {

        "@timestamp" : { "type" : "date" },

        "@version" : { "type" : "integer", "index" : "not_analyzed" },

        "url": {

          "type": "string",

          "index": "not_analyzed"

        },

        "host": {

          "type": "ip",

          "index": "not_analyzed"

        },

        "clientip": {

          "type": "ip",

          "index": "not_analyzed"

        },

        "size": {

          "type": "integer"

        },

        "xff": {

          "type": "string",

          "index": "not_analyzed"

        },

        "upstreamhost": {

          "type": "string",

          "index": "not_analyzed"

        },

        "http_host": {

          "type": "string",

          "index": "not_analyzed"

        },

        "status": {

          "type": "integer"

        },

        "responseTime": {

          "type": "string",

          "index": "not_analyzed"

        },

        "upstreamtime": {

          "type": "string",

          "index": "not_analyzed"

        }

      }

    }

  }

}

四、生成统计图形

ELK+syslog+nginx访问日志收集+分词处理

五、参考文档

https://elasticsearch.cn/article/154

http://blog.csdn.net/choelea/article/details/53320140

http://www.cnblogs.com/hanyifeng/p/5860731.html

另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。

网页标题:ELK+syslog+nginx访问日志收集+分词处理-创新互联
文章来源:https://www.cdcxhl.com/article32/doccpc.html

成都网站建设公司_创新互联,为您提供域名注册网站制作企业网站制作手机网站建设小程序开发用户体验

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联

营销型网站建设