博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Logtail提升采集性能
阅读量:5734 次
发布时间:2019-06-18

本文共 1128 字,大约阅读时间需要 3 分钟。

默认性能限制

为防止滥用消耗过多机器资源,我们对默认安装的Logtail进行了一系列的资源限制。默认安装的Logtail最多日志采集速度为20M/s,20个并发发送。

其他资源限制请参考:启动参数 中的默认配置。

采集能力

单核能力

如果放开发送流控,Logtail默认单核的能力大致如下(具体根据不同正则、日志类型、采集提取的key数量、机器配置等会有一定浮动):

备注:测试环境

CPU :Intel(R) Xeon(R) CPU E5-2682 v4 @ 2.50GHz
MEM : 64GB
OS : Linux version 2.6.32-220.23.2.ali1113.el5.x86_64

多核能力

Logtail默认只开一个线程处理数据,如果开启多核,性能会有提升,但并不是线性关系,实测最多开到8个线程后,性能几乎没有上涨。

  • 极简模式最高性能可达:440MB/s
  • 正则最高性能可达:70MB/s
  • 分隔符最高性可达:75MB/s
  • JSON最高性能可达:75MB/s

日志格式建议

根据您的使用目的,合理选择对应的日志格式

  1. 搬数据:使用极简模式,性能最高
  2. 数据分析:多字符分隔符>单字符分隔符>JSON模式>正则模式
  3. Java堆栈类型数据:正则模式
  • 注意:正则模式采集性能和正则优化有非常大关系。

如何放开资源限制

可通过调整Logtail的启动参数来放开默认的资源限制,下面我们推荐2种配置方式:

  • 注意:Logtail使用短连接发送数据,如果发送并发过高,建议调整服务器的tcp参数,防止过多time_wait
  • 调整方式:sudo sysctl -w net.ipv4.tcp_tw_timeout=5

单核小资模式

在配置文件末尾追加以下两个参数,注意JSON需合法。

{    ...    "max_bytes_per_sec" : 50000000,    "send_request_concurrency" : 50}复制代码

多核极致模式

在配置文件末尾追加以下几个参数,需保证,注意JSON需合法。

  • 注意:需保证 cpu_usage_limit > process_thread_count
{    ...    "cpu_usage_limit" : 5,    "process_thread_count" : 4,    "max_bytes_per_sec" : 50000000,    "send_request_concurrency" : 50}复制代码

本文为云栖社区原创内容,未经允许不得转载。

转载于:https://juejin.im/post/5cf8bae4e51d454d565357ae

你可能感兴趣的文章
linux下监控jvm 使用的方法
查看>>
Windows+Linux----打造和谐的开发环境
查看>>
mvc中日志的原理和使用步骤
查看>>
C# 监测每个方法的执行次数和占用时间(测试3)
查看>>
[洛谷U40581]树上统计treecnt
查看>>
[ZJOI2012]灾难
查看>>
Code Signal_练习题_almostIncreasingSequence
查看>>
C++程序设计(第2版)课后习题答案--第13章
查看>>
C#设置日期为指定的月份和日子
查看>>
根据EntityFramework写的重写sql语句的类
查看>>
滑动窗口的最大值
查看>>
[转载]大话MVP
查看>>
基于DOM的XML文件操作
查看>>
【Day29 】Soket编程
查看>>
Angular的MVC理解--节自Adam Free的Pro angularv2
查看>>
C/S打包(图文)
查看>>
django之http协议、django基础-56
查看>>
MS SQL Server:分区表、分区索引详解
查看>>
第一章第二章
查看>>
实现使用“*”打印直角三角形
查看>>