在构建任何软件应用程序时,选择合适的数据库至关重要。所有数据库在性能方面都有不同的优势和劣势,因此,为您的特定用例和数据模型决定哪种数据库具有最大的优势和最小的缺点是一项重要的决定。下面您将找到 Apache Druid 和 AWS DynamoDB 的关键概念、架构、功能、用例和定价模型的概述,以便您可以快速了解它们之间的比较。

本文的主要目的是比较 Apache Druid 和 AWS DynamoDB 在涉及时间序列数据的工作负载方面的性能,而不是所有可能的用例。时间序列数据通常在数据库性能方面提出了独特的挑战。这是由于正在写入的大量数据以及访问该数据的查询模式。本文并非旨在说明哪个数据库更好;它只是提供了每个数据库的概述,以便您可以做出明智的决定。

Apache Druid 与 AWS DynamoDB 对比细分


 
数据库模型

列式数据库

键值和文档存储

架构

Druid 可以部署在本地、云端或使用托管服务

DynamoDB 是由亚马逊云服务 (AWS) 提供的完全托管的无服务器 NoSQL 数据库。它为高性能用例使用个位数毫秒延迟,并支持键值和文档数据模型。数据在 AWS 区域内的多个可用区之间进行分区和复制,DynamoDB 支持读取操作的最终一致性或强一致性

许可证

Apache 2.0

闭源

用例

实时分析、OLAP、时间序列数据、事件驱动数据、日志分析、广告技术、用户行为分析

无服务器 Web 应用程序、实时竞价平台、游戏排行榜、物联网数据管理、高速数据处理

可扩展性

水平可扩展,支持分布式架构,实现高可用性和高性能

自动扩展以处理大量的读取和写入吞吐量,支持按需容量和自动扩展、用于多区域复制的全局表

正在寻找最有效的入门方式?

无论您是寻求节省成本、降低管理开销还是开源,InfluxDB 都能帮到您。

Apache Druid 概述

Apache Druid 是一个开源的实时分析数据库,专为高性能查询和数据摄取而设计。Druid 最初由 Metamarkets 于 2011 年开发,后来于 2018 年捐赠给 Apache 软件基金会,因其能够以低延迟处理大量数据而广受欢迎。Druid 具有独特的架构,结合了时间序列数据库、搜索系统和列式存储的元素,特别适用于涉及事件驱动数据和交互式分析的用例。

AWS DynamoDB 概述

Amazon DynamoDB 是由 AWS 提供的托管 NoSQL 数据库服务。它于 2012 年首次推出,旨在提供低延迟、高吞吐量的性能。DynamoDB 基于亚马逊工程师于 2007 年发布的 Dynamo 论文的原则构建,旨在提供高度可用、可扩展且分布式的键值存储。


Apache Druid 用于时间序列数据

Apache Druid 专为实时分析而设计,非常适合处理需要在写入后快速分析的时间序列数据。Druid 还提供集成,用于将历史数据存储在更便宜的对象存储中,以便也可以使用 Druid 分析历史时间序列数据。

AWS DynamoDB 用于时间序列数据

DynamoDB 可以与时间序列数据一起使用,尽管与专门的时间序列数据库相比,它可能不是最优化的解决方案。要在 DynamoDB 中存储时间序列数据,您可以使用复合主键,其中分区键用于实体标识符,排序键用于时间戳。这使您可以有效地查询特定实体和时间范围内的数据。但是,DynamoDB 在处理时间序列数据时的主要弱点是缺乏对数据聚合和降采样的内置支持,而这些是时间序列分析的常见要求。您可能需要在应用程序中执行这些操作,或使用 AWS Lambda 等其他服务来处理数据。


Apache Druid 关键概念

  • 数据摄取:将数据从各种来源(例如流式或批量数据源)导入 Druid 的过程。
  • :Druid 中最小的数据存储单元,段是不可变的、分区的和压缩的。
  • 数据汇总:在摄取期间聚合原始数据的过程,以减少存储需求并提高查询性能。
  • 节点:Druid 的架构由不同类型的节点组成,包括 Historical、Broker、Coordinator 和 MiddleManager/Overlord,每个节点都有特定的职责。
  • 索引服务:Druid 的索引服务管理摄取数据、创建段以及将它们发布到深度存储的过程。

AWS DynamoDB 关键概念

DynamoDB 特有的一些关键术语和概念包括

  • :在 DynamoDB 中,数据存储在表中,表是项的容器。每个表都有一个主键,用于唯一标识表中的每个项。
  • :项是 DynamoDB 表中的单个记录,它们由一个或多个属性组成。
  • 属性:属性是构成表中项的键值对。DynamoDB 支持属性的标量、文档和集合数据类型。
  • 主键:主键唯一标识表中的每个项,它可以是单属性分区键或复合分区排序键。


Apache Druid 架构

Apache Druid 是一个强大的分布式数据存储,专为对大型数据集进行实时分析而设计。在其架构中,几个核心组件在确保其效率和可扩展性方面发挥着关键作用。以下是为 Apache Druid 提供支持的核心组件的概述。

  • Historical Nodes 是 Druid 数据服务能力的基础。它们的主要职责是为查询提供存储的数据。为了实现这一点,它们从深度存储加载段,将它们保留在内存中,然后满足对这些段的查询。在考虑部署和管理时,这些节点通常驻留在配备大量内存和 CPU 资源的机器上。它们的可扩展性显而易见,因为只需合并更多节点即可水平扩展它们。
  • Broker Nodes 充当传入查询的守门人。它们的主要功能是将这些查询引导到适当的历史节点或实时节点。有趣的是,它们是无状态的,这意味着可以扩展它们以适应查询并发性的增加。
  • Coordinator Nodes 具有管理角色,负责监督跨历史节点的数据分布。它们关于加载或删除哪些段的决定基于特定的可配置规则。在部署方面,Druid 设置通常只需要一个活动协调器节点,并在备用节点上待机以应对故障转移情况。
  • Overlord Nodes 指示摄取任务的分配,将它们定向到中间管理器或索引器节点。它们的部署类似于协调器节点的部署,通常有一个活动的 overlord 和一个备份用于冗余。
  • MiddleManager 和 Indexer Nodes 是 Druid 中数据摄取的主力军。虽然 MiddleManagers 启动用于数据摄取的短寿命任务,但索引器专为长寿命任务而设计。鉴于它们的密集操作,这些节点需要高 CPU 和内存资源。它们的可扩展性是灵活的,允许根据数据摄取量进行水平扩展。
  • Deep Storage 是一个组件,它充当 Druid 的持久存储单元。Druid 与各种 Blob 存储解决方案集成,例如 HDFS、S3 和 Google Cloud Storage。
  • Metadata Storage 是存储关于段、任务和配置的关键元数据的存储库。Druid 为此目的与流行的数据库兼容,包括 MySQL、PostgreSQL 和 Derby。

AWS DynamoDB 架构

DynamoDB 是一个 NoSQL 数据库,它使用键值存储和文档数据模型。它旨在通过在多台服务器上自动分区数据并使用复制来确保容错能力,从而提供高可用性、持久性和可扩展性。DynamoDB 的一些主要组件包括

  • 分区:DynamoDB 根据分区键自动分区数据,这确保数据均匀分布在多个存储节点上。
  • 复制:DynamoDB 在 AWS 区域内的多个可用区之间复制数据,从而提供高可用性和持久性。
  • 一致性:DynamoDB 提供两种一致性模型:最终一致性和强一致性,允许您为应用程序选择适当的一致性级别。

免费时间序列数据库指南

获取关于备选方案和选择您的数据库的关键要求的全面审查。

Apache Druid 功能

数据摄取

Apache Druid 支持实时和批量数据摄取,允许它处理来自各种来源的数据,如 Kafka、Hadoop 或本地文件。凭借对数据分区、复制和汇总的内置支持,Druid 确保了高可用性和高效存储。

可扩展性和性能

Druid 旨在水平扩展,为大规模部署提供支持,同时最大限度地减少性能下降。其独特的架构允许快速高效的查询,使其适用于需要低延迟分析的用例。

列式存储

Druid 以列式格式存储数据,与基于行的存储系统相比,可以实现更好的压缩和更快的查询性能。列式存储还允许 Druid 通过仅访问相关列来优化查询。

时间优化索引

Druid 的索引服务创建具有基于时间的分区的段,从而优化了时间序列数据的数据存储和检索。此功能显着提高了基于时间的查询的查询性能。数据汇总

Druid 的数据汇总功能在摄取期间聚合原始数据,从而减少存储需求并提高查询性能。此功能对于涉及高基数数据或大量相似数据点的用例尤其有利。

AWS DynamoDB 功能

自动扩展

DynamoDB 可以根据工作负载自动扩展其读取和写入容量,使您能够在不过度配置资源的情况下保持一致的性能。

备份和还原

DynamoDB 为时间点恢复提供内置支持,使您能够将表恢复到过去 35 天内的先前状态。

全局表

DynamoDB 全局表使您能够跨多个 AWS 区域复制表,从而为全局应用程序提供低延迟访问和数据冗余。

DynamoDB Streams 捕获表中项级别的修改,可用于触发 AWS Lambda 函数进行实时处理或与其他 AWS 服务同步数据。


Apache Druid 用例

地理空间分析

Apache Druid 提供对地理空间数据和查询的支持,使其适用于涉及基于位置的数据的用例,例如跟踪资产的移动、分析用户位置或监控事件的分布。它有效处理大量地理空间数据的能力使用户能够根据位置信息获得见解并做出数据驱动的决策。

机器学习和人工智能

Druid 的高性能数据处理能力可用于机器学习和 AI 工作流程中的预处理和特征提取。它对实时数据摄取和低延迟查询的支持使其适用于需要实时预测或洞察力的用例,例如推荐系统或预测性维护。

实时分析

Apache Druid 的低延迟查询和实时数据摄取功能使其成为实时分析用例的理想解决方案,例如监控应用程序性能、用户行为或业务指标。

AWS DynamoDB 用例

会话管理

DynamoDB 可用于存储 Web 应用程序的会话数据,从而提供对会话信息的快速且可扩展的访问。

游戏

DynamoDB 可用于存储在线游戏的玩家数据、游戏状态和其他游戏相关信息,从而提供低延迟和高吞吐量的性能。

物联网

DynamoDB 可用于存储和处理来自 IoT 设备的传感器数据,从而实现设备数据的实时监控和分析。


Apache Druid 定价模型

Apache Druid 是一个开源项目,因此,它可以自托管,无需许可费用。但是,选择自托管 Druid 的组织在在其环境中部署和运营 Druid 时,将产生与基础设施、管理和支持相关的费用。这些成本将取决于组织的具体要求和选择的基础设施,无论是在本地还是在云端。

对于那些喜欢托管解决方案的人来说,有一些云服务提供 Apache Druid 作为托管服务,例如 Imply Cloud。使用托管服务,提供商负责基础设施、管理和支持,从而简化了 Druid 的部署和操作。这些托管服务的定价将因提供商和所选服务层级而异,其中可能包括数据存储、查询容量和数据摄取速率等因素。

AWS DynamoDB 定价模型

DynamoDB 提供两种定价选项:预置容量和按需容量。使用预置容量,您可以指定您的应用程序预计每秒需要的读取和写入次数,并且您需要根据预置容量的量付费。此定价模型适用于具有可预测流量或逐渐增加流量的应用程序。您可以使用自动扩展根据指定的利用率自动调整表的容量,从而在确保应用程序性能的同时降低成本。

另一方面,使用按需容量,您需要为您的应用程序在您的表上执行的数据读取和写入按请求付费。您无需指定您的应用程序预计执行多少读取和写入吞吐量,因为 DynamoDB 会在您的工作负载增加或减少时立即适应它们。此定价模型适用于具有波动或不可预测流量模式的应用程序。