标签：flume channels 21 hdfs 数据仓库 企业级 a1 sources sinks

5）Flume安装

一、Flume概述

【1】Flume简介

• 1）Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统
• 2）Flume可以采集文件，例如：socket数据包、文件、文件夹、kafka等各种形式源数据，又可以将采集到的数据(下沉sink)输出到HDFS、HBase、hive、Kafka等众多外部存储系统中
• 3）一般的采集需求，通过对Flume的简单配置即可实现
• 4） Flume针对特殊场景也具备良好的自定义扩展能力，因此，Flume可以适用于大部分的日常数据采集场景

【2】运行机制

• 1）Flume分布式系统中最核心的角色是agent，agent本身是一个Java进程，一般运行在日志收集节点，Flume采集系统就是由一个个agent所连接起来形成
• 2）每一个agent相当于一个数据传递员，内部有三个组件：
  • a) Source：采集组件，用于跟数据源对接，以获取数据
  • b) Channel：传输通道组件，用于从source将数据传递到sink
  • c) Sink：下沉组件，用于往下一级agent传递数据或者往最终存储系统传递数据

在整个数据的传输的过程中，流动的是event，它是Flume内部数据传输的最基本单元。event将传输的数据进行封装。如果是文本文件，通常是一行记录，event也是事务的基本单位。event从source，流向channel，再到sink，本身为一个字节数组，并可携带headers(头信息)信息。event代表着一个数据的最小完整单元，从外部数据源来，向外部的目的地去
一个完整的event包括：event headers、event body、event信息，其中event信息就是flume收集到的日记记录。

• 3）Source 到 Channel 到 Sink之间传递数据的形式是Event事件；Event事件是一个数据流单元
  

单个agent采集数据

标签：flume,channels,21,hdfs,数据仓库,企业级,a1,sources,sinks
来源： https://www.cnblogs.com/huanghanyu/p/13712498.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。