标签:filebeat apps kafka nginx 172.31 root logstash
在web服务器
有就停止
root@long:~# systemctl stop logstash
监控单个日志配置:
上传deb包,安装
[root@es-web2 src]# dpkg -i filebeat-7.12.1-amd64.deb
先启动zookeeper
[root@mq1 ~]# /usr/local/zookeeper/bin/zkServer.sh restart
[root@mq2 ~]# /usr/local/zookeeper/bin/zkServer.sh restart
[root@mq3 ~]# /usr/local/zookeeper/bin/zkServer.sh restart
启动kafka
[root@mq1 ~]# /apps/kafka/bin/kafka-server-start.sh -daemon /apps/kafka/config/server.properties
[root@mq2 ~]# /apps/kafka/bin/kafka-server-start.sh -daemon /apps/kafka/config/server.properties
[root@mq3 ~]# /apps/kafka/bin/kafka-server-start.sh -daemon /apps/kafka/config/server.properties
filebeat改配置文件
root@long:~# grep -v "#" /etc/filebeat/filebeat.yml| grep -v "^$"
filebeat.inputs:
- type: log
enabled: True
paths:
- /apps/nginx/logs/error.log
fields:
app: nginx-errorlog
group: n223
- type: log
enabled: True
paths:
- /var/log/nginx/access.log
fields:
app: nginx-accesslog
group: n125
output.kafka:
hosts: ["172.31.2.41:9092","172.31.2.42:9092","172.31.2.43:9092"]
topic: "long-mm123-nginx"
partition.round_robin:
reachable_only: true
required_acks: 1
compression: gzip
max_message_bytes: 1000000
重启
root@long:~# systemctl restart filebeat
logstash配置文件
root@long:~# vim /etc/logstash/conf.d/filebeat-nginx-log-redis.conf
input {
kafka {
bootstrap_servers => "172.31.2.41:9092,172.31.2.42:9092,172.31.2.43:9092"
topics => "long-mm123-nginx"
codec => "json"
}
}
output {
if [fields][app] == "nginx-errorlog" {
elasticsearch {
hosts => ["172.31.2.101:9200"]
index => "filebeat-kafka-nginx-errorlog-%{+YYYY.MM.dd}"
}}
if [fields][app] == "nginx-accesslog" {
elasticsearch {
hosts => ["172.31.2.101:9200"]
index => "filebeat-kafka-nginx-accesslog-%{+YYYY.MM.dd}"
}}
}
重启
root@long:~# systemctl restart logstash
kafka工具
加入kibana
标签:filebeat,apps,kafka,nginx,172.31,root,logstash 来源: https://www.cnblogs.com/xuanlv-0413/p/15374801.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。