标签:pv log app 写入 cv Linux 日志 dd
原创:扣钉日记(微信公众号ID:codelogs),欢迎分享,转载请保留出处。
简介
有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重。
本文就来介绍下Linux中查看日志增长速度的几种方法,如下:
使用dd
首先要介绍的是dd,因为dd命令几乎所有主流发行版都自带,无需额外安装,如下:
$ tail -F app.log | dd of=/dev/null status=progress
3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s
如上,使用tail -F
获取新写入的数据,然后用管道将数据交给dd,dd将数据拷贝到/dev/null
,其中status=progress
是用来显示拷贝速度的,可见,我们日志的写入速度是471 kB/s
。
使用pv
pv命令可以看做是带进度的cp,如下:
$ yum install -y pv
$ tail -F app.log | pv >/dev/null
2.05MiB 0:00:03 [ 330kiB/s] [ <=> ]
原理与dd类似,不过命令换成了pv。
使用cv命令
由于日志数据都是程序(如java)写入的,而在如下的伪文件中,存放着程序打开的文件信息,如下:
/proc/<pid>/fd
:存放着打开的文件描述符/proc/<pid>/fdinfo
:存放着文件描述符写入到的offset
于是定期的读取这个offset就可以知道文件的写入速度了,这也是cv命令的实现原理,如下:
$ yum install -y cv
$ cv -mc java
[ 1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s
# 实际上,由于Linux上大多数命令(如cp)没自带进度查看功能,而cv就成了很好的补充
# 比如查看cp复制文件的进度
$ cp app.log app.log.bak & cv -mc cp
新版cv命令已经改名为progress,安装不到cv包时,可试着安装progress包。
编写小脚本
通过写一个小脚本,定期观察文件大小,也可查看文件写入速度,如下:
# 每秒获取文件大小,通过减去上一秒的大小,即可计算出速度
while sleep 1; do \
sz=`stat -c %s app.log`; \
numfmt --from=auto --to=iec $((sz-psz)); \
psz=$sz; \
done
492K
750K
370K
通过watch再加上观察,也能大致看出速度,如下:
watch -d -t -n1 du app.log
举一反三
其实转念一想,如果我们在某个函数中打上日志,然后通过grep过滤出此日志,然后我们只要计算每秒输出的日志行数,这岂不就是函数执行的QPS了!
# 使用grep过滤出日志,tr删除非换行符,所以dd显示的是换行符的个数!
$ tail -F app.log \
| grep --line-buffered '/order/get' \
| stdbuf -oL tr -dc '\n' \
| dd of=/dev/null bs=1 status=progress
151 bytes (151 B) copied, 15.523018 s, 0.0 kB/s
这里可以通过151/15
计算出QPS是10,由于没有超过1000,所以看到的是0.0kB/s,如果使用pv命令,会更简单一些,如下:
$ tail -F app.log \
| grep --line-buffered '/order/get' \
| pv -l >/dev/null
144 0:00:03 [11.5 /s] [ <=> ]
往期内容
密码学入门
q命令-用SQL分析文本文件
神秘的backlog参数与TCP连接队列
mysql的timestamp会存在时区问题?
真正理解可重复读事务隔离级别
字符编码解惑
标签:pv,log,app,写入,cv,Linux,日志,dd 来源: https://www.cnblogs.com/codelogs/p/16365448.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。