Flume中的Channel与Sink详解

Apache Flume是一个分布式系统，专门用于从不同数据源收集、聚合和传输大量数据和日志到数据中心。它具有可靠、可伸缩、可定制、高可用和高性能等优点。Flume-ng支持声明式配置和动态更新，提供上下文路由、负载均衡和故障转移功能，且完全可扩展。

Flume 整合 Spark Streaming 时用 pull 方式采集数据，少不了的就是spark-streaming-flume-sink_2.11_2.1.1.jar这个包。直接把它放进你的lib里，搭配flume-ng agent，跑起来还挺稳。 Sink 的实现已经帮你封装好了，基本不用手动撸代码，配好 Flume 的avroSource和 Spark Streaming 里的FlumeUtils.createPollingStream就能收数据。响应也快，丢包率低，日常跑日志收集、监控啥的挺合适。 你要是正好在搞Kafka、HBase这类组件的实时，配合这个 JAR 包还能组成完

spark-streaming-flume-sink_2.11-2.0.0.jar 的 jar 包，主要是干嘛的？嗯，说白了，它就是让你把Flume采集到的数据，直接推给Spark Streaming来，适合做实时日志、事件流这一类的活儿。对接简单，挺省事。 Flume 对接 Spark Streaming的时候，最大的麻烦就是接口兼容问题。这包的版本是2.11-2.0.0，对应的Spark和Flume也要注意对上号，不然容易连不上。你可以看看这个Spark Streaming Flume Sink 2.11 2.1.1，版本挺详细的。 用这个包之后，Flume 事件就可以直接被receive

Flume 概述 Flume 是一个分布式、可靠、高可用的日志收集、聚合和传输系统。 Flume 特征 数据流模式：数据从源头（Source）流向通道（Channel），最后到达汇（Sink）。 可靠性：保证数据可靠传输，即使在系统故障或网络中断的情况下。 可扩展性：支持水平扩展，可根据需要添加组件来处理更大的数据量。 灵活性：支持多种数据源和汇，可轻松与现有系统集成。 Flume 组件 Source：收集数据的组件。 Channel：存储和缓冲数据的组件。 Sink：将数据传输到最终目标的组件。 Flume 配置 Flume 配置使用配置文件进行配置，指定数据流、组件和处理选项。 F

SUI MIMO channel 的 MATLAB 实现，附有说明文档。

在这个压缩包中包含了用于实现Flume监控文件夹中内容变化的关键组件：commons-lang3-3.3.2.jar、spark-streaming-flume_2.10-1.6.0.jar以及scala-compiler-2.10.5.jar。接着，Spark Streaming利用这些组件对数据进行实时分析。

在使用Flume时，如果您遇到netcatudp作为sources、avro作为sink时发送UDP数据报null of map in field headers of org.apache.flume.source.avro.AvroFlumeEvent of array的问题，可以通过引入com.whitepages.flume.plugins.source.udp.UDPSource来解决。只需将此类放置在Flume安装目录的lib目录下，并将sources的type设置为com.whitepages.flume.plugins.source.udp.UDPSource即可轻松应对。

Flume是一个由Cloudera提供的强大工具，用于收集、聚合和传输海量日志数据。它支持自定义数据发送器，用于收集数据，并提供简单的处理功能，可将数据写入各种可定制的数据接收方。Flume以其高可用性、高可靠性和分布式架构而著称。

获取 Flume 安装包及详细安装指导，助您快速搭建数据采集管道。