阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

纯手工玩转 Nginx 日志

208次阅读
没有评论

共计 2296 个字符,预计需要花费 6 分钟才能阅读完成。

Nginx 日志对于大部分人来说是个未被发掘的宝藏,总结之前做某日志分析系统的经验,和大家分享一下 Nginx 日志的纯手工分析方式。

纯手工玩转 Nginx 日志

Nginx 日志相关配置有 2 个地方:access_log 和 log_format。

默认的格式:

  1. access_log /data/logs/nginx-access.log;
  2. log_format old '$remote_addr [$time_local] $status $request_time $body_bytes_sent'
  3. '"$request" "$http_referer" "$http_user_agent"';

相信大部分用过 Nginx 的人对默认 Nginx 日志格式配置都很熟悉,对日志的内容也很熟悉。但是默认配置和格式虽然可读,但是难以计算。

Nginx 日志刷盘相关策略可配置:

比如,设置 buffer,buffer 满 32k 才刷盘;假如 buffer 不满 5s 钟强制刷盘的配置如下:

  1. access_log /data/logs/nginx-access.log buffer=32k flush=5s;

这决定了是否实时看到日志以及日志对磁盘 IO 的影响。

Nginx 日志能够记录的变量还有很多没出现在默认配置中:

比如:

  • 请求数据大小:$request_length
  • 返回数据大小:$bytes_sent
  • 请求耗时:$request_time
  • 所用连接序号:$connection
  • 当前连接发生请求数:$connection_requests

Nginx 的默认格式不可计算,需要想办法转换成可计算格式,比如用控制字符 ^A (Mac 下 ctrl+v ctrl+a 打出) 分割每个字段。

log_format 的格式可以变成这样:

  1. log_format new'$remote_addr^A$http_x_forwarded_for^A$host^A$time_local^A$status^A'
  2. '$request_time^A$request_length^A$bytes_sent^A$http_referer^A$request^A$http_user_agent';

这样之后就通过常见的 Linux 命令行工具进行分析了:

  • 查找访问频率最高的 URL 和次数:
    1. cat access.log | awk -F ‘^A‘{print $10}’| sort | uniq -c
  • 查找当前日志文件 500 错误的访问:
    1. cat access.log | awk -F ‘^A‘{if($5 ==500)print $0}’
  • 查找当前日志文件 500 错误的数量:
    1. cat access.log | awk -F ‘^A‘{if($5 ==500)print $0}’| wc -l
  • 查找某一分钟内 500 错误访问的数量:
    1. cat access.log | awk -F ‘^A‘{if($5 ==500)print $0}’| grep 09:00| wc-l
  • 查找耗时超过 1s 的慢请求:
    1. tail -f access.log | awk -F ‘^A‘{if($6>1)print $0}’
  • 假如只想查看某些位:
    1. tail -f access.log | awk -F ‘^A‘{if($6>1)print $3″|”$4}’
  • 查找 502 错误最多的 URL:
    1. cat access.log | awk -F ‘^A‘{if($5==502)print $11}’| sort | uniq -c
  • 查找 200 空白页
    1. cat access.log | awk -F ‘^A‘{if($5==200&& $8 <100)print $3″|”$4″|”$11″|”$6}’
  • 查看实时日志数据流
    1. tail -f access.log | cat -e

    或者

    1. tail -f access.log | tr ‘^A‘|’

总结

照着这个思路可以做很多其他分析,比如 UA 最多的访问;访问频率最高的 IP;请求耗时分析;请求返回包大小分析;等等。

这就是一个大型 Web 日志分析系统的原型,这样的格式也是非常方便进行后续大规模 batching 和 streaming 计算。

CentOS 6.2 实战部署 Nginx+MySQL+PHP http://www.linuxidc.com/Linux/2013-09/90020.htm

使用 Nginx 搭建 WEB 服务器 http://www.linuxidc.com/Linux/2013-09/89768.htm

搭建基于 Linux6.3+Nginx1.2+PHP5+MySQL5.5 的 Web 服务器全过程 http://www.linuxidc.com/Linux/2013-09/89692.htm

CentOS 6.3 下 Nginx 性能调优 http://www.linuxidc.com/Linux/2013-09/89656.htm

CentOS 6.3 下配置 Nginx 加载 ngx_pagespeed 模块 http://www.linuxidc.com/Linux/2013-09/89657.htm

CentOS 6.4 安装配置 Nginx+Pcre+php-fpm http://www.linuxidc.com/Linux/2013-08/88984.htm

Nginx 安装配置使用详细笔记 http://www.linuxidc.com/Linux/2014-07/104499.htm

Nginx 日志过滤 使用 ngx_log_if 不记录特定日志 http://www.linuxidc.com/Linux/2014-07/104686.htm

Nginx 的详细介绍 :请点这里
Nginx 的下载地址 :请点这里

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2015-07/119604.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-20发表,共计2296字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中