博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
flume实例(二):监控服务器日志
阅读量:4281 次
发布时间:2019-05-27

本文共 832 字,大约阅读时间需要 2 分钟。

1.实现功能:

监控日志增加,并且将日志信息存储到hdfs上

2.flume和hdfs集成

将hadoop对应jar包放到flume的lib目录下

htrace-core-3.1.0-incubating.jarhadoop-hdfs-2.7.3.jarhadoop-common-2.7.3.jarhadoop-auth-2.7.3.jarcommons-io-2.4.jarcommons-configuration-1.6.jar

3.配置文件

#a1是代理# Name the components on this agenta1.sources = r1a1.sinks = k1a1.channels = c1# Describe/configure the sourcea1.sources.r1.type = execa1.sources.r1.command = tail -f  /var/log/httpd/access_loga1.sources.r1.channels = c1# Use a channel which buffers events in memorya1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100# Describe the sinka1.sinks.k1.type=hdfsa1.sinks.k1.hdfs.path=hdfs://bigdata.ibeifeng.com:8020/flume02a1.sinks.k1.channel = c1

4.启动命令

(1)启动hdfs

(2)启动flume

bin/flume-ng agent --name a1  --conf conf  --conf-file conf/apache-sink-hdfs.conf

 

转载地址:http://tvygi.baihongyu.com/

你可能感兴趣的文章
StanFord ML 笔记 第六部分&&第七部分
查看>>
StanFord ML 笔记 第八部分
查看>>
《图像处理实例》 之 Voronoi 图
查看>>
TessorFlow学习 之 序言
查看>>
《图像处理实例》 之 二值图像分割
查看>>
Matplotlib模块
查看>>
StanFord ML 笔记 第一部分
查看>>
StanFord ML 笔记 第二部分
查看>>
StanFord ML 笔记 第三部分
查看>>
《图像处理实例》 之 局部极值提取
查看>>
硬盘读取不了-->>完美解决
查看>>
《图像处理实例》 之 拓扑重建
查看>>
《图像处理实例》 之 寻找图纸标注
查看>>
《图像处理实例》 之 拟合求交点
查看>>
《图像处理实例》 之 填充封闭区域
查看>>
《图像处理实例》 之 疏密程度统计
查看>>
支持向量机(理论+opencv实现)
查看>>
K-means算法(理论+opencv实现)
查看>>
高斯混合模型(理论+opencv实现)
查看>>
VS2015+Python3.5的配置
查看>>