基于Spark Streaming&Flume&Kafka打造通用流处理平台
- 整合日志输出到Flume
- 整合Flume到Kafka
- 整合Kafka到Spark Streaming
- Spark Streaming对接收到的数据进行处理
异常: java.lang.ClassNotFoundException: org.apache.flume.clients.log4jappender.Log4jAppender 在pox.xml中添加依赖:如下 G org.apache.flume.flume-ng-clients A flume-ng-log4jappender V 1.6.0
logger.info("current value is : " + index ++); logger.info("current : " + index ++);
上面的字符串,要短一点,不然,不能看到index的值
flume对接kafka
- 启动kafka后台服务
- 启动flume的kafka对应配置文件
- 启动kafka消费者
- 在IDEA中启动程序
- 在kafka中查看结果
步骤一步都不能错,尤其是1,2,3