阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Logstash 监控日志文件时应对日志文件名改变的原理

148次阅读
没有评论

共计 3808 个字符,预计需要花费 10 分钟才能阅读完成。

先说结论:基于 inode 实现。

分析很简单,logstash 是用一个 filewatch 去监视文件的。在 logstash 目录里搜索 filewatch 即可找到该目录

logstash/vendor/bundle/jruby/1.9/gems/filewatch-0.6.7/lib/filewatch

其中的 watch.rb 文件是我们所关注的重点

    public
    def inode(path,stat)
      if @iswindows
        fileId = Winhelper.GetWindowsUniqueFileIdentifier(path)
        inode = [fileId, 0, 0] # dev_* doesn’t make sense on Windows
      else
        inode = [stat.ino.to_s, stat.dev_major, stat.dev_minor]
      end
      return inode
    end

修改文件名并不会改变 inode 与文件的对应关系,并且打开一个文件以后,系统就以 inode 号码来识别这个文件,不再考虑文件名。

inode 具体原理参考下文 :http://www.linuxidc.com/Linux/2014-09/106457.htm

Linux 的 inode 的理解

文件名 -> inode -> device block

一、inode 是什么?

理解 inode,要从文件储存说起。

文件储存在硬盘上,硬盘的最小存储单位叫做 ” 扇区 ”(Sector)。每个扇区储存 512 字节(相当于 0.5KB)。

操作系统读取硬盘的时候,不会一个个扇区地读取,这样效率太低,而是一次性连续读取多个扇区,即一次性读取一个 ” 块 ”(block)。这种由多个扇区组成的 ” 块 ”,是文件存取的最小单位。” 块 ” 的大小,最常见的是 4KB,即连续八个 sector 组成一个 block。

文件数据都储存在 ” 块 ” 中,那么很显然,我们还必须找到一个地方储存文件的元信息,比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做 inode,中文译名为 ” 索引节点 ”。

二、inode 的内容

inode 包含文件的元信息,具体来说有以下内容:

* 文件的字节数

* 文件拥有者的 User ID

* 文件的 Group ID

* 文件的读、写、执行权限

* 文件的时间戳,共有三个:ctime 指 inode 上一次变动的时间,mtime 指文件内容上一次变动的时间,atime 指文件上一次打开的时间。

* 链接数,即有多少文件名指向这个 inode

* 文件数据 block 的位置

可以用 stat 命令,查看某个文件的 inode 信息:

stat example.txt

总之,除了文件名以外的所有文件信息,都存在 inode 之中。至于为什么没有文件名,下文会有详细解释。

三、inode 的大小

inode 也会消耗硬盘空间,所以硬盘格式化的时候,操作系统自动将硬盘分成两个区域。一个是数据区,存放文件数据;另一个是 inode 区(inode table),存放 inode 所包含的信息。

每个 inode 节点的大小,一般是 128 字节或 256 字节。inode 节点的总数,在格式化时就给定,一般是每 1KB 或每 2KB 就设置一个 inode。假定在一块 1GB 的硬盘中,每个 inode 节点的大小为 128 字节,每 1KB 就设置一个 inode,那么 inode table 的大小就会达到 128MB,占整块硬盘的 12.8%。

查看每个硬盘分区的 inode 总数和已经使用的数量,可以使用 df 命令。

df -i

查看每个 inode 节点的大小,可以用如下命令:

sudo dumpe2fs -h /dev/hda | grep “Inode size”

由于每个文件都必须有一个 inode,因此有可能发生 inode 已经用光,但是硬盘还未存满的情况。这时,就无法在硬盘上创建新文件。

四、inode 号码

每个 inode 都有一个号码,操作系统用 inode 号码来识别不同的文件。

这里值得重复一遍,Unix/Linux 系统内部不使用文件名,而使用 inode 号码来识别文件。对于系统来说,文件名只是 inode 号码便于识别的别称或者绰号。表面上,用户通过文件名,打开文件。实际上,系统内部这个过程分成三步:首先,系统找到这个文件名对应的 inode 号码;其次,通过 inode 号码,获取 inode 信息;最后,根据 inode 信息,找到文件数据所在的 block,读出数据。

使用 ls - i 命令,可以看到文件名对应的 inode 号码:

ls -i example.txt

五、目录文件

Unix/Linux 系统中,目录(directory)也是一种文件。打开目录,实际上就是打开目录文件。

目录文件的结构非常简单,就是一系列目录项(dirent)的列表。每个目录项,由两部分组成:所包含文件的文件名,以及该文件名对应的 inode 号码。

ls 命令只列出目录文件中的所有文件名:

ls /etc

ls - i 命令列出整个目录文件,即文件名和 inode 号码:

ls -i /etc

如果要查看文件的详细信息,就必须根据 inode 号码,访问 inode 节点,读取信息。ls - l 命令列出文件的详细信息。

ls -l /etc

六、硬链接

一般情况下,文件名和 inode 号码是 ” 一一对应 ” 关系,每个 inode 号码对应一个文件名。但是,Unix/Linux 系统允许,多个文件名指向同一个 inode 号码。这意味着,可以用不同的文件名访问同样的内容;对文件内容进行修改,会影响到所有文件名;但是,删除一个文件名,不影响另一个文件名的访问。这种情况就被称为 ” 硬链接 ”(hard link)。

ln 命令可以创建硬链接:

ln 源文件 目标文件

运行上面这条命令以后,源文件与目标文件的 inode 号码相同,都指向同一个 inode。inode 信息中有一项叫做 ” 链接数 ”,记录指向该 inode 的文件名总数,这时就会增加 1。反过来,删除一个文件名,就会使得 inode 节点中的 ” 链接数 ” 减 1。当这个值减到 0,表明没有文件名指向这个 inode,系统就会回收这个 inode 号码,以及其所对应 block 区域。

这里顺便说一下目录文件的 ” 链接数 ”。创建目录时,默认会生成两个目录项:”.” 和 ”..”。前者的 inode 号码就是当前目录的 inode 号码,等同于当前目录的 ” 硬链接 ”;后者的 inode 号码就是当前目录的父目录的 inode 号码,等同于父目录的 ” 硬链接 ”。所以,任何一个目录的 ” 硬链接 ” 总数,总是等于 2 加上它的子目录总数(含隐藏目录), 这里的 2 是父目录对其的“硬链接”和当前目录下的 ”. 硬链接“。

七、软链接

除了硬链接以外,还有一种特殊情况。文件 A 和文件 B 的 inode 号码虽然不一样,但是文件 A 的内容是文件 B 的路径。读取文件 A 时,系统会自动将访问者导向文件 B。因此,无论打开哪一个文件,最终读取的都是文件 B。这时,文件 A 就称为文件 B 的 ” 软链接 ”(soft link)或者 ” 符号链接(symbolic link)。

这意味着,文件 A 依赖于文件 B 而存在,如果删除了文件 B,打开文件 A 就会报错:”No such file or directory”。这是软链接与硬链接最大的不同:文件 A 指向文件 B 的文件名,而不是文件 B 的 inode 号码,文件 B 的 inode” 链接数 ” 不会因此发生变化。

ln - s 命令可以创建软链接。

ln -s 源文文件或目录 目标文件或目录

八、inode 的特殊作用

由于 inode 号码与文件名分离,这种机制导致了一些 Unix/Linux 系统特有的现象。

1. 有时,文件名包含特殊字符,无法正常删除。这时,直接删除 inode 节点,就能起到删除文件的作用。

2. 移动文件或重命名文件,只是改变文件名,不影响 inode 号码。

3. 打开一个文件以后,系统就以 inode 号码来识别这个文件,不再考虑文件名。因此,通常来说,系统无法从 inode 号码得知文件名。

第 3 点使得软件更新变得简单,可以在不关闭软件的情况下进行更新,不需要重启。因为系统通过 inode 号码,识别运行中的文件,不通过文件名。更新的时候,新版文件以同样的文件名,生成一个新的 inode,不会影响到运行中的文件。等到下一次运行这个软件的时候,文件名就自动指向新版文件,旧版文件的 inode 则被回收。

九 实际问题

在一台配置较低的 Linux 服务器(内存、硬盘比较小)的 /data 分区内创建文件时,系统提示磁盘空间不足,用 df - h 命令查看了一下磁盘使用情况,发现 /data 分区只使用了 66%,还有 12G 的剩余空间,按理说不会出现这种问题。后来用 df - i 查看了一下 /data 分区的索引节点 (inode),发现已经用满 (IUsed=100%),导致系统无法创建新目录和文件。

查找原因:

/data/cache 目录中存在数量非常多的小字节缓存文件,占用的 Block 不多,但是占用了大量的 inode。

解决方案:

1、删除 /data/cache 目录中的部分文件,释放出 /data 分区的一部分 inode。

2、用软连接将空闲分区 /opt 中的 newcache 目录连接到 /data/cache,使用 /opt 分区的 inode 来缓解 /data 分区 inode 不足的问题:

ln -s /opt/newcache /data/cache

本文永久更新链接地址 :http://www.linuxidc.com/Linux/2016-08/133994.htm

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计3808字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中