Google Cloud PubSub 和 Grafana 集成

强大性能与轻松集成,由 InfluxData 构建的开源数据连接器 Telegraf 提供支持。

info

对于大规模实时查询,这不是推荐的配置。 为了进行查询和压缩优化、高速摄取和高可用性,您可能需要考虑 Google Cloud PubSub 和 InfluxDB

50 亿+

Telegraf 下载量

#1

时间序列数据库
来源:DB Engines

10 亿+

InfluxDB 下载量

2,800+

贡献者

目录

强大性能,无限扩展

收集、组织和处理海量高速数据。当您将任何数据视为时间序列数据时,它会更有价值。使用 InfluxDB,这是基于 Telegraf 构建的排名第一的时间序列平台,可进行扩展。

查看入门方法

输入和输出集成概览

此插件从 Google Cloud PubSub 摄取指标,从而实现实时数据处理并集成到监控设置中。

此插件使 Telegraf 能够将指标直接实时流式传输到 Grafana 仪表板,利用 Grafana Live 实现即时数据可视化和运营洞察。

集成详情

Google Cloud PubSub

Google Cloud PubSub 输入插件旨在从 Google Cloud PubSub 摄取指标,Google Cloud PubSub 是一种消息传递服务,可促进不同系统之间的实时通信。 它允许用户通过从 Google Cloud 项目中的指定订阅中拉取消息来创建和处理指标。 此插件的关键功能之一是它能够作为服务输入运行,主动侦听传入消息,而不是仅仅以设定的时间间隔轮询指标。 通过各种配置选项,用户可以自定义消息摄取的行为,例如处理凭据、管理消息大小以及调整确认设置,以确保仅在成功处理后才确认消息。 通过利用 Google PubSub 的优势,此插件与云原生架构无缝集成,使用户能够构建强大且可扩展的应用程序,这些应用程序可以实时响应事件。

Grafana

Telegraf 可以使用 Websocket 输出插件将实时数据发送到 Grafana。 Telegraf 收集的指标会立即推送到 Grafana 仪表板,从而实现实时可视化和分析。 此插件非常适合需要低延迟、实时数据可视化的用例,例如运营监控、实时分析和即时事件响应场景。 它支持身份验证标头、可自定义的数据序列化格式(如 JSON)以及通过 TLS 进行的安全通信,从而在动态、交互式仪表板环境中提供灵活性和易用性。

配置

Google Cloud PubSub

[[inputs.cloud_pubsub]]
  project = "my-project"
  subscription = "my-subscription"
  data_format = "influx"
  # credentials_file = "path/to/my/creds.json"
  # retry_delay_seconds = 5
  # max_message_len = 1000000
  # max_undelivered_messages = 1000
  # max_extension = 0
  # max_outstanding_messages = 0
  # max_outstanding_bytes = 0
  # max_receiver_go_routines = 0
  # base64_data = false
  # content_encoding = "identity"
  # max_decompression_size = "500MB"

Grafana

[[outputs.websocket]]
  ## Grafana Live WebSocket endpoint
  url = "ws://localhost:3000/api/live/push/custom_id"

  ## Optional headers for authentication
  # [outputs.websocket.headers]
  #   Authorization = "Bearer YOUR_GRAFANA_API_TOKEN"

  ## Data format to send metrics
  data_format = "influx"

  ## Timeouts (make sure read_timeout is larger than server ping interval or set to zero).
  # connect_timeout = "30s"
  # write_timeout = "30s"
  # read_timeout = "30s"

  ## Optionally turn on using text data frames (binary by default).
  # use_text_frames = false

  ## TLS configuration
  # tls_ca = "/path/to/ca.pem"
  # tls_cert = "/path/to/cert.pem"
  # tls_key = "/path/to/key.pem"
  # insecure_skip_verify = false

输入和输出集成示例

Google Cloud PubSub

  1. 物联网设备的实时分析:利用 Google Cloud PubSub 插件聚合来自分散在各个位置的物联网设备的指标。 通过将来自设备的数据流式传输到 Google PubSub 并使用此插件摄取指标,组织可以创建一个集中式仪表板,用于实时监控和警报。 此设置允许即时了解设备性能,从而促进主动维护和运营效率。

  2. 动态日志处理和监控:通过 Google Cloud PubSub 将来自众多来源的日志摄取到 Telegraf 管道中,利用该插件解析和分析日志消息。 这可以帮助团队快速识别日志中的异常或模式,并简化跨分布式系统的问题排除过程。 通过整合日志数据,组织可以增强其可观察性和响应能力。

  3. 事件驱动的工作流集成:使用 Google Cloud PubSub 插件连接各种云功能或服务。 每次新消息推送到订阅时,都可以在云架构的其他部分触发操作,例如启动数据处理作业、通知,甚至报告更新。 这种事件驱动的方法允许更具反应性的系统架构,可以适应不断变化的业务需求。

Grafana

  1. 实时基础设施仪表板:部署 Telegraf 将服务器运行状况指标直接流式传输到 Grafana 仪表板,使 IT 团队能够实时可视化基础设施性能。 此设置允许立即检测和响应关键系统事件。

  2. 交互式物联网监控:集成 Telegraf 收集的物联网设备指标,并将实时数据推送到 Grafana,从而创建动态和交互式仪表板,用于监控智慧城市项目或制造流程。 这种实时可见性显着提高了响应能力和运营效率。

  3. 即时应用程序性能分析:将来自生产环境的应用程序指标实时流式传输到 Grafana 仪表板,使开发团队能够在部署期间快速检测和诊断性能瓶颈或异常,从而最大限度地减少停机时间并提高可靠性。

  4. 实时事件分析:在大型现场活动期间,利用 Telegraf 捕获实时观众或系统指标,并直接流式传输到 Grafana 仪表板。 活动组织者可以动态监控并响应不断变化的条件或趋势,从而显着提高观众参与度和运营决策能力。

反馈

感谢您成为我们社区的一份子! 如果您有任何一般性反馈或在这些页面上发现了任何错误,我们欢迎并鼓励您提出意见。 请在 InfluxDB 社区 Slack 中提交您的反馈。

强大性能,无限扩展

收集、组织和处理海量高速数据。当您将任何数据视为时间序列数据时,它会更有价值。使用 InfluxDB,这是基于 Telegraf 构建的排名第一的时间序列平台,可进行扩展。

查看入门方法

相关集成

HTTP 和 InfluxDB 集成

HTTP 插件从一个或多个 HTTP(S) 端点收集指标。 它支持各种身份验证方法和数据格式的配置选项。

查看集成

Kafka 和 InfluxDB 集成

此插件从 Kafka 读取消息,并允许基于这些消息创建指标。 它支持各种配置,包括不同的 Kafka 设置和消息处理选项。

查看集成

Kinesis 和 InfluxDB 集成

Kinesis 插件允许从 AWS Kinesis 流中读取指标。 它支持多种输入数据格式,并提供带有 DynamoDB 的检查点功能,以实现可靠的消息处理。

查看集成