Fluentd 和 VictoriaMetrics 集成

强大性能,轻松集成,由 Telegraf 提供支持,InfluxData 构建的开源数据连接器。

info

对于大规模实时查询,这不是推荐的配置。 为了进行查询和压缩优化、高速摄取和高可用性,您可能需要考虑 Fluentd 和 InfluxDB 集成

50 亿+

Telegraf 下载量

#1

时序数据库
来源:DB Engines

10 亿+

InfluxDB 下载量

2,800+

贡献者

目录

强大性能,无限扩展

收集、组织和处理海量高速数据。 当您将任何数据视为时序数据时,它都更有价值。 使用 InfluxDB,第一的时序平台,旨在与 Telegraf 一起扩展。

查看入门方法

输入和输出集成概述

Fluentd 输入插件从 Fluentd 的 in_monitor 插件端点收集指标。 它提供对各种插件指标的深入了解,同时允许自定义配置以减少序列基数。

此插件使 Telegraf 能够使用 InfluxDB 行协议将指标直接高效地写入 VictoriaMetrics,从而利用 VictoriaMetrics 的性能和可扩展性功能来处理大规模时序数据。

集成详情

Fluentd

此插件从 in_monitor 插件提供的 Fluentd 插件端点收集指标。 它从 /api/plugin.json 资源读取数据,并允许根据插件类型排除特定插件。

VictoriaMetrics

VictoriaMetrics 支持直接摄取 InfluxDB 行协议中的指标,这使得此插件成为高效实时指标存储和检索的理想选择。 该集成结合了 Telegraf 广泛的指标收集能力与 VictoriaMetrics 优化的存储和查询功能,包括压缩、快速摄取率和高效的磁盘利用率。 此插件非常适合云原生和大规模监控场景,它提供了简易性、强大的性能和高可靠性,为大量指标的高级操作洞察和长期存储解决方案提供了支持。

配置

Fluentd

[[inputs.fluentd]]
  ## This plugin reads information exposed by fluentd (using /api/plugins.json endpoint).
  ##
  ## Endpoint:
  ## - only one URI is allowed
  ## - https is not supported
  endpoint = "http://localhost:24220/api/plugins.json"

  ## Define which plugins have to be excluded (based on "type" field - e.g. monitor_agent)
  exclude = [
    "monitor_agent",
    "dummy",
  ]

VictoriaMetrics

[[outputs.influxdb]]
  ## URL of the VictoriaMetrics write endpoint
  urls = ["http://localhost:8428"]

  ## VictoriaMetrics accepts InfluxDB line protocol directly
  database = "db_name"

  ## Optional authentication
  # username = "username"
  # password = "password"
  # skip_database_creation = true
  # exclude_retention_policy_tag = true
  # content_encoding = "gzip"

  ## Timeout for HTTP requests
  timeout = "5s"

  ## Optional TLS configuration
  # tls_ca = "/path/to/ca.pem"
  # tls_cert = "/path/to/cert.pem"
  # tls_key = "/path/to/key.pem"
  # insecure_skip_verify = false

输入和输出集成示例

Fluentd

  1. 基本配置:设置 Fluentd 输入插件以从您的 Fluentd 实例的监控端点收集指标,确保您能够跟踪性能和使用情况统计信息。
  2. 排除插件:使用 exclude 选项忽略特定插件的指标,这些指标对于您的监控需求不是必需的,从而简化数据收集并专注于重要事项。
  3. 自定义插件 ID:在您的 Fluentd 配置中实现 @id 参数,以保持一致的 plugin_id,这有助于避免频繁重启期间出现高序列基数的问题。

VictoriaMetrics

  1. 云原生应用程序监控:将部署在 Kubernetes 上的微服务的指标直接流式传输到 VictoriaMetrics。 通过集中指标,组织可以执行实时监控、快速异常检测以及在动态发展的云环境中实现无缝扩展。

  2. 可扩展的物联网数据管理:使用该插件将来自物联网部署的传感器数据摄取到 VictoriaMetrics 中。 这种方法有助于实时分析、预测性维护以及以最小的存储开销高效管理大量传感器数据。

  3. 金融系统性能跟踪:通过此插件利用 VictoriaMetrics 存储和分析来自金融系统的指标,捕获延迟、交易量和错误率。 组织可以快速识别和解决性能瓶颈,确保高可用性和法规遵从性。

  4. 跨环境性能仪表板:将来自各种基础设施组件(例如云实例、容器和物理服务器)的指标集成到 VictoriaMetrics 中。 使用可视化工具,团队可以构建全面的仪表板,以实现端到端性能可见性、主动故障排除和基础设施优化。

反馈

感谢您成为我们社区的一份子! 如果您有任何一般性反馈或在这些页面上发现任何错误,我们欢迎并鼓励您提出意见。 请在 InfluxDB 社区 Slack 中提交您的反馈。

强大性能,无限扩展

收集、组织和处理海量高速数据。 当您将任何数据视为时序数据时,它都更有价值。 使用 InfluxDB,第一的时序平台,旨在与 Telegraf 一起扩展。

查看入门方法

相关集成

HTTP 和 InfluxDB 集成

HTTP 插件从一个或多个 HTTP(S) 端点收集指标。 它支持各种身份验证方法和数据格式的配置选项。

查看集成

Kafka 和 InfluxDB 集成

此插件从 Kafka 读取消息,并允许根据这些消息创建指标。 它支持各种配置,包括不同的 Kafka 设置和消息处理选项。

查看集成

Kinesis 和 InfluxDB 集成

Kinesis 插件允许从 AWS Kinesis 流读取指标。 它支持多种输入数据格式,并提供使用 DynamoDB 的检查点功能,以实现可靠的消息处理。

查看集成