阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Rsyslog+MySQL+Loganalyzer搭建日志服务器

533次阅读
没有评论

共计 9618 个字符,预计需要花费 25 分钟才能阅读完成。

大概思路如下:
使用 Linux 自带的 rsyslog 服务来做底层,然后再使用 MySQL 与 rsyslog 的模板来存储文件,并且以 web 来进行显示出来。< 模板的存储以日期的树形结构来存储,并且以服务器客户端 IP 为文件名进行划分。
 
最终的效果如下图:

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

大概步骤如下:
1. 配置好 rsyslog server 的服务
2. 配置好 lamp 架构
3. 安装好 Loganalyzer 日志 web
4. 建好 web 权限控制
 
一、配置好 rsyslog server 的服务
以下为 /etc/rsyslog.conf 的配置文件,自行修改为以下的配置。

[root@localhost ~]# grep -v ‘^#’ /etc/rsyslog.conf|grep -v ‘^$’
$ModLoad ommysql
*.* :ommysql:localhost,Syslog,rsyslog,123456
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imklog # provides kernel logging support (previously done by rklogd)
$ModLoad immark # provides –MARK– message capability
$ModLoad imudp
$UDPServerRun 514
$ModLoad imtcp
$InputTCPServerRun 514
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$template DynamicFile,”/var/log/ttlogs/%$YEAR%/%$MONTH%/%$DAY%/%fromhost-ip%-test.log”
*.* ?DynamicFile
$IncludeConfig /etc/rsyslog.d/*.conf
*.info;mail.none;authpriv.none;cron.none /var/log/messages
authpriv.* /var/log/secure
mail.* -/var/log/maillog
cron.* /var/log/cron
*.emerg *
uucp,news.crit /var/log/spooler
local7.* /var/log/boot.log
[root@localhost ~]#
# /etc/init.d/rsyslog restart #重启下 rsyslog 的服务
#chkconfig rsyslog on #设置开机启动
# netstat -tpnl #检查 rsyslogd 服务是否正常启动,514 端口
#logger ‘test_samcao’ #发送测试日志测试
#tail -f /var/log/messages #查看是否有测试信息,上面的有添加 mysql 的接口,会有错误提示但不影响

注:需要注意下 rsyslog 的版本,有些版本的配置不太一样。会有问题,在此需要根据 /var/log/message 中的日志信息进行排查,在此第一步配置 rsyslog server 就配置完了
 
二、准备配置 LAMP 环境
下面的这步可以直接简单的搭建好 LAMP 的环境

#yum -y install httpd mysql mysql-server php php-mysql postgresql postgresql-server php-postgresql php-pgsql php-devel gd gd-devel php-gd
#/etc/init.d/httpd start
#/etc/rc.d/init.d/mysqld start
#/usr/bin/mysqladmin -u root password ‘new-password’

三、安装好 Loganalyzer 日志 web

#wget http://download.adiscon.com/loganalyzer/loganalyzer-3.6.5.tar.gz
#tar zxvf loganalyzer-3.6.5.tar.gz
#cd loganalyzer-3.6.5
# mkdir -p /var/www/html/loganalyzer
# rsync -a src/* /var/www/html/loganalyzer/
# touch /var/www/html/loganalyzer/config.php
# chmod 666 /var/www/html/loganalyzer/config.php

然后就是访问 http://192.168.1.213/loganalyzer 页面进行 web 安装的操作了。这个我忽略了。图太多。而且我已经安装完了。再截图太麻烦。可以看这个链接:http://www.linuxidc.com/Linux/2014-06/103836.htm

注:上面安装的时候注意下,数据库如果没有需要自己手动建一下,还有数据表的名称的大小写。还有 gd 库的支持打开 /etc/php.ini 将 gd.jpeg_ignore_warning = 0 这行的注释取消掉
四、建好 web 权限控制
默认可以直接打开 web 页面查看日志,可能有时候需要进行相关的权限设置,没有再深入研究 loganalyzer,在此直接使用 apache 的密码来处理了下这个问题
1. 将 http.conf 中的 AllowOverride all

[root@logserver ~]# cat /var/www/html/.htaccess
AuthName “Login”
AuthType basic
AuthUserFile “/var/webuser”
require valid-user
[root@logserver ~]#

4. 使用后面会提示需要输入密码. 直接输入密码即可. 但是需要添加多个用户的时候不可使用上面的命令. 其中 - c 表示需要创建一个加密文件, 可使用 htpasswd -mdps /var/webuser cs 来进行添加账号.
这样就完事了. 最后在访问 web 的时候,会提示需要输入密码。输入然后就可以正常的访问了。
 
其中有些配置信息上面没有说清楚,如果有需要的同学可以看下下面的一些链接:
在 Linux 上配置一个 syslog 服务器 http://www.linuxidc.com/Linux/2015-03/114802.htm

CentOS 6.5 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器 http://www.linuxidc.com/Linux/2014-06/103836.htm
 
其它的还有一些官方的链接,在此就不帖了,这个只是我自己的一个记录。

[root@localhost ~]# grep -v ‘^#’ /etc/rsyslog.conf |grep -v  ‘^$’
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imklog  # provides kernel logging support (previously done by rklogd)
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$IncludeConfig /etc/rsyslog.d/*.conf
*.info;mail.none;authpriv.none;cron.none                /var/log/messages
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
module(load=”imfile” PollingInterval=”10″)
input(type=”imfile”
    File=”/usr/local/u-mail/service/nginx/logs/access.log”
    StateFile=”/var/spool/rsyslog/statefile1″
    Tag=”tag1″
    Severity=”access”
    Facility=”local7″)
local7.*    @192.168.1.213:514
*.*    @192.168.1.213
[root@localhost ~]#

Ubuntu 13.04 安装 LAMP\Vsftpd\Webmin\phpMyAdmin 服务及设置 http://www.linuxidc.com/Linux/2013-06/86250.htm

CentOS 5.9 下编译安装 LAMP(Apache 2.2.44+MySQL 5.6.10+PHP 5.4.12) http://www.linuxidc.com/Linux/2013-03/80333p3.htm

RedHat 5.4 下 Web 服务器架构之源码构建 LAMP 环境及应用 PHPWind http://www.linuxidc.com/Linux/2012-10/72484p2.htm

LAMP 源码环境搭建 WEB 服务器 Linux+Apache+MySQL+PHP http://www.linuxidc.com/Linux/2013-05/84882.htm

CentOS 6.3 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器  http://www.linuxidc.com/Linux/2013-07/86956.htm

CentOS 6.5+Rsyslog+LogAnalyzer 搭建中央日志服务器  http://www.linuxidc.com/Linux/2014-06/102867.htm

RHEL5.4 部署中央日志服务器之 rsyslog+Log Analyzer http://www.linuxidc.com/Linux/2012-01/51853.htm

CentOS 6.3 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器 http://www.linuxidc.com/Linux/2013-07/86956.htm

RHEL5.4 部署中央日志服务器之 rsyslog+loganalyzer http://www.linuxidc.com/Linux/2010-12/30801.htm

使用 rsyslog mysql 和 logAnalyzer 的日志服务器 http://www.linuxidc.com/Linux/2012-09/70717.htm

本文永久更新链接地址:http://www.linuxidc.com/Linux/2016-09/134849.htm

更新:

使用这个搭建了一个日志服务器,但是在 MySQL 中,日志增加太快,过了些天,已经有几千万的数据了,而且 loganalyzer 生成的表并不够好 < 个人感觉 >,没有相关的索引,最终在查询的时候败下阵来,在此期间,有尝试将该日志的表添加索引 < 小弟对 mysql 也不熟悉,不熟悉 mysql 的优化索引,胡乱根据网上的教程,添加了一些索引 > 如下图.

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

 

这还是比较勤快的删除了数据,具体的如下数量,并且这数据量才刚刚进行上线:

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

 

这实在是一个头痛的问题,思索再写,决定自己利用 Python+<xshell 的 grep> 直接查询日志文件,利用 django+apache 实现前端显示,自己来实现一个算了。大概思路如下。

先看下 rsyslog 日志的目录结构及 rsyslog 模板的配置:

$template DynamicFile,"/var/log/ttlogs/%$YEAR%/%$MONTH%/%$DAY%/%fromhost-ip%-test.log"
*.* ?DynamicFile

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

 

然后相关的思路图如下:

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

 

在此仅表述个人的观点,如果不好,请大家指出。跪听。

大概思路如下:
使用 Linux 自带的 rsyslog 服务来做底层,然后再使用 MySQL 与 rsyslog 的模板来存储文件,并且以 web 来进行显示出来。< 模板的存储以日期的树形结构来存储,并且以服务器客户端 IP 为文件名进行划分。
 
最终的效果如下图:

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

Rsyslog+MySQL+Loganalyzer 搭建日志服务器

大概步骤如下:
1. 配置好 rsyslog server 的服务
2. 配置好 lamp 架构
3. 安装好 Loganalyzer 日志 web
4. 建好 web 权限控制
 
一、配置好 rsyslog server 的服务
以下为 /etc/rsyslog.conf 的配置文件,自行修改为以下的配置。

[root@localhost ~]# grep -v ‘^#’ /etc/rsyslog.conf|grep -v ‘^$’
$ModLoad ommysql
*.* :ommysql:localhost,Syslog,rsyslog,123456
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imklog # provides kernel logging support (previously done by rklogd)
$ModLoad immark # provides –MARK– message capability
$ModLoad imudp
$UDPServerRun 514
$ModLoad imtcp
$InputTCPServerRun 514
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$template DynamicFile,”/var/log/ttlogs/%$YEAR%/%$MONTH%/%$DAY%/%fromhost-ip%-test.log”
*.* ?DynamicFile
$IncludeConfig /etc/rsyslog.d/*.conf
*.info;mail.none;authpriv.none;cron.none /var/log/messages
authpriv.* /var/log/secure
mail.* -/var/log/maillog
cron.* /var/log/cron
*.emerg *
uucp,news.crit /var/log/spooler
local7.* /var/log/boot.log
[root@localhost ~]#
# /etc/init.d/rsyslog restart #重启下 rsyslog 的服务
#chkconfig rsyslog on #设置开机启动
# netstat -tpnl #检查 rsyslogd 服务是否正常启动,514 端口
#logger ‘test_samcao’ #发送测试日志测试
#tail -f /var/log/messages #查看是否有测试信息,上面的有添加 mysql 的接口,会有错误提示但不影响

注:需要注意下 rsyslog 的版本,有些版本的配置不太一样。会有问题,在此需要根据 /var/log/message 中的日志信息进行排查,在此第一步配置 rsyslog server 就配置完了
 
二、准备配置 LAMP 环境
下面的这步可以直接简单的搭建好 LAMP 的环境

#yum -y install httpd mysql mysql-server php php-mysql postgresql postgresql-server php-postgresql php-pgsql php-devel gd gd-devel php-gd
#/etc/init.d/httpd start
#/etc/rc.d/init.d/mysqld start
#/usr/bin/mysqladmin -u root password ‘new-password’

三、安装好 Loganalyzer 日志 web

#wget http://download.adiscon.com/loganalyzer/loganalyzer-3.6.5.tar.gz
#tar zxvf loganalyzer-3.6.5.tar.gz
#cd loganalyzer-3.6.5
# mkdir -p /var/www/html/loganalyzer
# rsync -a src/* /var/www/html/loganalyzer/
# touch /var/www/html/loganalyzer/config.php
# chmod 666 /var/www/html/loganalyzer/config.php

然后就是访问 http://192.168.1.213/loganalyzer 页面进行 web 安装的操作了。这个我忽略了。图太多。而且我已经安装完了。再截图太麻烦。可以看这个链接:http://www.linuxidc.com/Linux/2014-06/103836.htm

注:上面安装的时候注意下,数据库如果没有需要自己手动建一下,还有数据表的名称的大小写。还有 gd 库的支持打开 /etc/php.ini 将 gd.jpeg_ignore_warning = 0 这行的注释取消掉
四、建好 web 权限控制
默认可以直接打开 web 页面查看日志,可能有时候需要进行相关的权限设置,没有再深入研究 loganalyzer,在此直接使用 apache 的密码来处理了下这个问题
1. 将 http.conf 中的 AllowOverride all

[root@logserver ~]# cat /var/www/html/.htaccess
AuthName “Login”
AuthType basic
AuthUserFile “/var/webuser”
require valid-user
[root@logserver ~]#

4. 使用后面会提示需要输入密码. 直接输入密码即可. 但是需要添加多个用户的时候不可使用上面的命令. 其中 - c 表示需要创建一个加密文件, 可使用 htpasswd -mdps /var/webuser cs 来进行添加账号.
这样就完事了. 最后在访问 web 的时候,会提示需要输入密码。输入然后就可以正常的访问了。
 
其中有些配置信息上面没有说清楚,如果有需要的同学可以看下下面的一些链接:
在 Linux 上配置一个 syslog 服务器 http://www.linuxidc.com/Linux/2015-03/114802.htm

CentOS 6.5 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器 http://www.linuxidc.com/Linux/2014-06/103836.htm
 
其它的还有一些官方的链接,在此就不帖了,这个只是我自己的一个记录。

[root@localhost ~]# grep -v ‘^#’ /etc/rsyslog.conf |grep -v  ‘^$’
$ModLoad imuxsock # provides support for local system logging (e.g. via logger command)
$ModLoad imklog  # provides kernel logging support (previously done by rklogd)
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat
$IncludeConfig /etc/rsyslog.d/*.conf
*.info;mail.none;authpriv.none;cron.none                /var/log/messages
authpriv.*                                              /var/log/secure
mail.*                                                  -/var/log/maillog
cron.*                                                  /var/log/cron
*.emerg                                                :omusrmsg:*
uucp,news.crit                                          /var/log/spooler
local7.*                                                /var/log/boot.log
module(load=”imfile” PollingInterval=”10″)
input(type=”imfile”
    File=”/usr/local/u-mail/service/nginx/logs/access.log”
    StateFile=”/var/spool/rsyslog/statefile1″
    Tag=”tag1″
    Severity=”access”
    Facility=”local7″)
local7.*    @192.168.1.213:514
*.*    @192.168.1.213
[root@localhost ~]#

Ubuntu 13.04 安装 LAMP\Vsftpd\Webmin\phpMyAdmin 服务及设置 http://www.linuxidc.com/Linux/2013-06/86250.htm

CentOS 5.9 下编译安装 LAMP(Apache 2.2.44+MySQL 5.6.10+PHP 5.4.12) http://www.linuxidc.com/Linux/2013-03/80333p3.htm

RedHat 5.4 下 Web 服务器架构之源码构建 LAMP 环境及应用 PHPWind http://www.linuxidc.com/Linux/2012-10/72484p2.htm

LAMP 源码环境搭建 WEB 服务器 Linux+Apache+MySQL+PHP http://www.linuxidc.com/Linux/2013-05/84882.htm

CentOS 6.3 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器  http://www.linuxidc.com/Linux/2013-07/86956.htm

CentOS 6.5+Rsyslog+LogAnalyzer 搭建中央日志服务器  http://www.linuxidc.com/Linux/2014-06/102867.htm

RHEL5.4 部署中央日志服务器之 rsyslog+Log Analyzer http://www.linuxidc.com/Linux/2012-01/51853.htm

CentOS 6.3 下利用 Rsyslog+LogAnalyzer+MySQL 部署日志服务器 http://www.linuxidc.com/Linux/2013-07/86956.htm

RHEL5.4 部署中央日志服务器之 rsyslog+loganalyzer http://www.linuxidc.com/Linux/2010-12/30801.htm

使用 rsyslog mysql 和 logAnalyzer 的日志服务器 http://www.linuxidc.com/Linux/2012-09/70717.htm

本文永久更新链接地址:http://www.linuxidc.com/Linux/2016-09/134849.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计9618字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19350
评论数
4
阅读量
7955661
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
150元打造低成本NAS小钢炮,捡一块3865U工控板

150元打造低成本NAS小钢炮,捡一块3865U工控板

150 元打造低成本 NAS 小钢炮,捡一块 3865U 工控板 一块二手的熊猫 B3 工控板 3865U,搭...
240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

240 元左右!五盘位 NAS主机,7 代U硬解4K稳如狗,拓展性碾压同价位

  240 元左右!五盘位 NAS 主机,7 代 U 硬解 4K 稳如狗,拓展性碾压同价位 在 NA...
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手!

还在找免费服务器?无广告免费主机,新手也能轻松上手! 前言 对于个人开发者、建站新手或是想搭建测试站点的从业者...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
安装并使用谷歌AI编程工具Antigravity(亲测有效)

安装并使用谷歌AI编程工具Antigravity(亲测有效)

  安装并使用谷歌 AI 编程工具 Antigravity(亲测有效) 引言 Antigravity...
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞定

多服务器管理神器 Nexterm 横空出世!NAS/Win/Linux 通吃,SSH/VNC/RDP 一站式搞...
星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

星哥带你玩飞牛NAS-16:飞牛云NAS换桌面,fndesk图标管理神器上线!

  星哥带你玩飞牛 NAS-16:飞牛云 NAS 换桌面,fndesk 图标管理神器上线! 引言 哈...
自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个AI智能体—跟创业大佬对话

自己手撸一个 AI 智能体 — 跟创业大佬对话 前言 智能体(Agent)已经成为创业者和技术人绕...