Google 云存储和 Google BigQuery 集成

通过 Telegraf(InfluxData 构建的开源数据连接器)提供支持,实现强大的性能和轻松集成。

info

对于大规模实时查询,这不是推荐的配置。 为了进行查询和压缩优化、高速摄取和高可用性,您可能需要考虑 Google 云存储和 InfluxDB

50 亿+

Telegraf 下载量

#1

时序数据库
来源:DB Engines

10 亿+

InfluxDB 下载量

2,800+

贡献者

目录

强大性能,无限扩展

收集、组织和处理海量高速数据。 当您将任何数据视为时序数据时,它都更有价值。 使用 InfluxDB,第一时序平台,旨在通过 Telegraf 进行扩展。

查看入门方法

输入和输出集成概述

Google Cloud Storage 插件从指定的 Google Cloud Storage 存储桶收集指标,从而深入了解存储使用情况和性能。

Google BigQuery 插件允许 Telegraf 将指标写入 Google Cloud BigQuery,从而为遥测数据提供强大的数据分析功能。

集成详情

Google 云存储

Google Cloud Storage Telegraf 插件能够从指定的 Google Cloud Storage 存储桶收集指标。 随着组织越来越依赖云存储解决方案进行数据管理,监控这些资源的性能和利用率的能力变得至关重要。 此插件对于跟踪存储的使用方式、了解数据模式以及确保运营效率特别有用。 通过与 Google Cloud Storage API 集成,它允许用户从其云环境收集见解,并将指标直接馈送到监控系统中以进行进一步分析。 该插件支持各种配置选项,使用户可以根据其特定需求自定义数据收集过程。

Google BigQuery

Telegraf 的 Google BigQuery 插件实现了与 Google Cloud 的 BigQuery 服务的无缝集成,BigQuery 服务是一个流行的数据仓库和分析平台。 此插件有助于将 Telegraf 收集的指标传输到 BigQuery 数据集中,从而使用户可以更轻松地对其遥测数据执行分析并生成见解。 它需要通过服务帐户或用户凭据进行身份验证,并且旨在处理各种数据类型,确保用户可以在指标存储在 BigQuery 表中时保持其完整性和准确性。 配置选项允许围绕数据集规范和处理指标进行自定义,包括管理指标名称中的连字符,BigQuery 的流式插入不支持连字符。 对于利用 BigQuery 的可扩展性和强大的查询功能来分析大量监控数据的组织,此插件特别有用。

配置

Google 云存储

[[inputs.google_cloud_storage]]
  bucket = "my-bucket"
  # key_prefix = "my-bucket"
  offset_key = "offset_key"
  objects_per_iteration = 10
  data_format = "influx"
  # credentials_file = "path/to/my/creds.json"

Google BigQuery

# Configuration for Google Cloud BigQuery to send entries
[[outputs.bigquery]]
  ## Credentials File
  credentials_file = "/path/to/service/account/key.json"

  ## Google Cloud Platform Project
  # project = ""

  ## The namespace for the metric descriptor
  dataset = "telegraf"

  ## Timeout for BigQuery operations.
  # timeout = "5s"

  ## Character to replace hyphens on Metric name
  # replace_hyphen_to = "_"

  ## Write all metrics in a single compact table
  # compact_table = ""
  

输入和输出集成示例

Google 云存储

  1. 自动化备份监控: 利用 Google Cloud Storage 插件定期监控存储在 Cloud Storage 存储桶中的备份文件的状态。 通过配置插件来跟踪文件指标,组织可以自动发出警报,以防备份大小偏离预期模式,从而确保数据保护流程正常运行并及时解决任何异常情况。

  2. 成本优化见解: 将此插件集成到成本管理工具中,以分析 Cloud Storage 的使用模式。 通过收集有关文件大小和访问频率的指标,团队可以优化其存储解决方案,并就数据保留策略做出明智的决策,从而可能降低不必要的存储成本并改进资源分配。

  3. 合规性和审计: 使用此插件生成有助于验证存储在 Google Cloud Storage 中的数据是否合规的指标。 通过提供有关数据访问和存储使用情况的详细见解,组织可以确保遵守法规要求,从而有助于审计并符合数据治理的最佳实践。

  4. 性能基准测试: 部署此插件以对 Google Cloud Storage 中数据检索和存储操作的性能进行基准测试。 通过分析一段时间内的指标,团队可以识别性能瓶颈或效率低下问题,从而优化其依赖云存储服务的应用程序和基础设施。

Google BigQuery

  1. 实时分析仪表板: 利用 Google BigQuery 插件将实时指标馈送到 Google Cloud 上托管的自定义分析仪表板中。 这种设置将使团队能够实时可视化性能数据,从而深入了解系统运行状况和使用模式。 通过使用 BigQuery 的查询功能,用户可以轻松创建量身定制的报告和仪表板来满足其特定需求,从而增强决策过程。

  2. 成本管理和优化分析: 利用此插件自动将来自各种服务的成本相关指标发送到 BigQuery。 分析这些数据可以帮助企业识别不必要的费用并优化资源使用率。 通过在 BigQuery 中执行聚合和转换查询,组织可以创建准确的预测并有效地管理其云支出。

  3. 跨团队监控数据协作: 使组织内不同的团队能够使用 BigQuery 共享其监控数据。 借助此 Telegraf 插件,团队可以将其指标推送到中央 BigQuery 实例,从而促进协作。 这种数据共享方法鼓励最佳实践和跨职能意识,从而共同改进系统性能和可靠性。

  4. 用于容量规划的历史分析: 通过使用 BigQuery 插件,公司可以收集和存储对于容量规划至关重要的历史指标数据。 分析一段时间内的趋势可以帮助预测系统需求并主动扩展基础设施。 组织可以创建时序分析并识别可为其长期战略决策提供信息的模式。

反馈

感谢您成为我们社区的一份子! 如果您有任何一般性反馈或在这些页面上发现任何错误,我们欢迎并鼓励您提出意见。 请在 InfluxDB 社区 Slack 中提交您的反馈。

强大性能,无限扩展

收集、组织和处理海量高速数据。 当您将任何数据视为时序数据时,它都更有价值。 使用 InfluxDB,第一时序平台,旨在通过 Telegraf 进行扩展。

查看入门方法

相关集成

HTTP 和 InfluxDB 集成

HTTP 插件从一个或多个 HTTP(S) 端点收集指标。 它支持各种身份验证方法和数据格式的配置选项。

查看集成

Kafka 和 InfluxDB 集成

此插件从 Kafka 读取消息,并允许根据这些消息创建指标。 它支持各种配置,包括不同的 Kafka 设置和消息处理选项。

查看集成

Kinesis 和 InfluxDB 集成

Kinesis 插件允许从 AWS Kinesis 流中读取指标。 它支持多种输入数据格式,并提供使用 DynamoDB 的检查点功能,以实现可靠的消息处理。

查看集成