标签：flume Flume 处理过程 index kafka 问题 Spark Kafka

基于Spark Streaming&Flume&Kafka打造通用流处理平台

• 整合日志输出到Flume
• 整合Flume到Kafka
• 整合Kafka到Spark Streaming
• Spark Streaming对接收到的数据进行处理

异常: java.lang.ClassNotFoundException: org.apache.flume.clients.log4jappender.Log4jAppender 在pox.xml中添加依赖:如下 G org.apache.flume.flume-ng-clients A flume-ng-log4jappender V 1.6.0

logger.info("current value is : " + index ++); logger.info("current : " + index ++);

上面的字符串,要短一点,不然,不能看到index的值

flume对接kafka

1. 启动kafka后台服务
2. 启动flume的kafka对应配置文件
3. 启动kafka消费者
4. 在IDEA中启动程序
5. 在kafka中查看结果

步骤一步都不能错,尤其是1,2,3

标签：flume,Flume,处理过程,index,kafka,问题,Spark,Kafka
来源： https://www.cnblogs.com/suixingc/p/ke-cheng-mu-lup.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。