Google Cloud Storage 和 Thanos 集成

强大的性能和简单的集成,由 InfluxData 构建的开源数据连接器 Telegraf 提供支持。

info

对于大规模实时查询,这不是推荐的配置。 为了进行查询和压缩优化、高速摄取和高可用性,您可能需要考虑Google Cloud Storage 和 InfluxDB

50 亿+

Telegraf 下载量

#1

时间序列数据库
来源:DB Engines

10 亿+

InfluxDB 下载量

2,800+

贡献者

目录

强大的性能,无限的扩展能力

收集、组织和处理海量高速数据。 当您将任何数据视为时间序列数据时,它会更有价值。 借助 InfluxDB,排名第一的时间序列平台,旨在通过 Telegraf 进行扩展。

了解入门方法

输入和输出集成概述

Google Cloud Storage 插件从指定的 Google Cloud Storage 存储桶收集指标,从而深入了解存储使用情况和性能。

此插件使用基于 HTTP 的 Prometheus 远程写入协议将 Telegraf 中的指标发送到 Thanos,从而可以高效且可扩展地摄取到 Thanos Receive 组件中。

集成详细信息

Google Cloud Storage

Google Cloud Storage Telegraf 插件能够从指定的 Google Cloud Storage 存储桶收集指标。 随着组织越来越依赖云存储解决方案进行数据管理,监控这些资源的性能和利用率的能力变得至关重要。 此插件对于跟踪存储使用情况、了解数据模式以及确保运营效率特别有用。 通过与 Google Cloud Storage API 集成,它允许用户从其云环境收集见解,并将指标直接馈送到监控系统以进行进一步分析。 该插件支持各种配置选项,使用户能够根据其特定需求自定义数据收集过程。

Thanos

Telegraf 的 HTTP 插件可以通过其 Remote Write 兼容的 Receive 组件将指标直接发送到 Thanos。 通过将数据格式设置为 prometheusremotewrite,Telegraf 可以将指标序列化为本机 Prometheus 客户端使用的相同基于 protobuf 的格式。 此设置支持将高吞吐量、低延迟的指标摄取到 Thanos 中,从而促进大规模的集中式可观测性。 这在混合环境中尤其有用,在混合环境中,Telegraf 从 Prometheus 本机范围之外的系统(例如 SNMP 设备、Windows 主机或自定义应用程序)收集指标,并将它们直接流式传输到 Thanos 以进行长期存储和全局查询。

配置

Google Cloud Storage

[[inputs.google_cloud_storage]]
  bucket = "my-bucket"
  # key_prefix = "my-bucket"
  offset_key = "offset_key"
  objects_per_iteration = 10
  data_format = "influx"
  # credentials_file = "path/to/my/creds.json"

Thanos

[[outputs.http]]
  ## Thanos Receive endpoint for remote write
  url = "http://thanos-receive.example.com/api/v1/receive"

  ## HTTP method
  method = "POST"

  ## Data format set to Prometheus remote write
  data_format = "prometheusremotewrite"

  ## Optional headers (authorization, etc.)
  # [outputs.http.headers]
  #   Authorization = "Bearer YOUR_TOKEN"

  ## Optional TLS configuration
  # tls_ca = "/path/to/ca.pem"
  # tls_cert = "/path/to/cert.pem"
  # tls_key = "/path/to/key.pem"
  # insecure_skip_verify = false

  ## Request timeout
  timeout = "10s"

输入和输出集成示例

Google Cloud Storage

  1. 自动化备份监控:利用 Google Cloud Storage 插件定期监控 Cloud Storage 存储桶中存储的备份文件的状态。 通过配置插件来跟踪文件指标,组织可以自动发出警报,以防备份大小偏离预期模式,从而确保数据保护流程正常运行并及时解决任何异常情况。

  2. 成本优化见解:将此插件集成到成本管理工具中,以分析 Cloud Storage 的使用模式。 通过收集有关文件大小和访问频率的指标,团队可以优化其存储解决方案,并就数据保留策略做出明智的决策,从而可能降低不必要的存储成本并改善资源分配。

  3. 合规性和审计:使用该插件生成有助于验证存储在 Google Cloud Storage 中的数据是否合规的指标。 通过提供有关数据访问和存储使用情况的详细见解,组织可以确保遵守法规要求,从而有助于审计并符合数据治理的最佳实践。

  4. 性能基准测试:部署该插件以对 Google Cloud Storage 中的数据检索和存储操作的性能进行基准测试。 通过分析一段时间内的指标,团队可以识别性能瓶颈或效率低下问题,从而优化其依赖云存储服务的应用程序和基础设施。

Thanos

  1. 无代理云监控:在云虚拟机上部署 Telegraf 代理以收集系统和应用程序指标,然后使用 Remote Write 将它们直接流式传输到 Thanos。 这提供了集中式可观测性,而无需在每个位置部署 Prometheus 节点。

  2. 可扩展的 Windows 主机监控:在 Windows 计算机上使用 Telegraf 收集操作系统级指标,并通过 Remote Write 将它们发送到 Thanos Receive。 这实现了跨异构环境的可观测性,而本机 Prometheus 仅在 Linux 上受支持。

  3. 跨区域指标联合:多个地理区域中的 Telegraf 代理可以使用此插件将数据推送到区域本地 Thanos Receive 接收器。 从那里,Thanos 可以全局重复数据删除和查询指标,从而降低延迟和网络出口成本。

  4. 将第三方数据集成到 Thanos 中:使用 Telegraf 输入从自定义遥测源(例如 REST API 或专有日志)收集指标,并通过 Remote Write 将它们转发到 Thanos。 这将非原生数据引入到 Prometheus 兼容的长期分析管道中。

反馈

感谢您成为我们社区的一份子! 如果您有任何一般反馈或在这些页面上发现任何错误,我们欢迎并鼓励您提出意见。 请在 InfluxDB 社区 Slack 中提交您的反馈。

强大的性能,无限的扩展能力

收集、组织和处理海量高速数据。 当您将任何数据视为时间序列数据时,它会更有价值。 借助 InfluxDB,排名第一的时间序列平台,旨在通过 Telegraf 进行扩展。

了解入门方法

相关集成

HTTP 和 InfluxDB 集成

HTTP 插件从一个或多个 HTTP(S) 端点收集指标。 它支持各种身份验证方法和数据格式的配置选项。

查看集成

Kafka 和 InfluxDB 集成

此插件从 Kafka 读取消息,并允许根据这些消息创建指标。 它支持各种配置,包括不同的 Kafka 设置和消息处理选项。

查看集成

Kinesis 和 InfluxDB 集成

Kinesis 插件允许从 AWS Kinesis 流中读取指标。 它支持多种输入数据格式,并提供 DynamoDB 的检查点功能,以实现可靠的消息处理。

查看集成