在构建任何软件应用程序时,选择合适的数据库至关重要。所有数据库在性能方面都有不同的优势和劣势,因此,针对您的特定用例和数据模型,决定哪个数据库的优势最大,劣势最小,是一项重要的决策。下面您将找到 Apache Druid 和 Elasticsearch 的关键概念、架构、功能、用例和定价模型的概述,以便您可以快速了解它们之间的比较。

本文的主要目的是比较 Apache Druid 和 Elasticsearch 在涉及 时间序列数据 的工作负载中的性能,而不是针对所有可能的用例。时间序列数据通常在数据库性能方面提出了独特的挑战。这是由于正在写入的大量数据以及访问这些数据的查询模式。本文并非旨在论证哪个数据库更好;它只是提供了每个数据库的概述,以便您可以做出明智的决定。

Apache Druid 与 Elasticsearch 对比细分


 
数据库模型

列式数据库

分布式搜索和分析引擎,面向文档

架构

Druid 可以部署在本地、云端或使用托管服务

Elasticsearch 构建于 Apache Lucene 之上,并使用 RESTful API 进行通信。它以灵活的 JSON 文档格式存储数据,并且数据会自动索引以实现快速搜索和检索。Elasticsearch 可以作为单节点、集群配置或托管云服务(Elastic Cloud)进行部署

许可证

Apache 2.0

Elastic 许可证

用例

实时分析、OLAP、时间序列数据、事件驱动型数据、日志分析、广告技术、用户行为分析

全文搜索、日志和事件数据分析、实时应用程序监控、分析

可扩展性

水平可扩展,支持分布式架构,实现高可用性和高性能

水平可扩展,支持数据分片、复制和分布式查询

正在寻找最有效的入门方式?

无论您是寻求节省成本、降低管理开销还是开源,InfluxDB 都能提供帮助。

Apache Druid 概述

Apache Druid 是一个开源的实时分析数据库,专为高性能查询和数据摄取而设计。Druid 最初由 Metamarkets 于 2011 年开发,并于 2018 年捐赠给 Apache 软件基金会,因其能够处理大量数据并保持低延迟而广受欢迎。Druid 具有独特的架构,结合了时间序列数据库、搜索系统和列式存储的元素,尤其适用于涉及事件驱动型数据和交互式分析的用例。

Elasticsearch 概述

Elasticsearch 是一个开源的分布式搜索和分析引擎,构建于 Apache Lucene 之上。它于 2010 年首次发布,此后因其可扩展性、近实时搜索功能和易用性而广受欢迎。Elasticsearch 旨在处理各种数据类型,包括结构化、非结构化和基于时间的数据。它通常与 Elastic Stack 中的其他工具结合使用,例如用于数据摄取的 Logstash 和用于数据可视化的 Kibana。


Apache Druid 用于时间序列数据

Apache Druid 专为实时分析而设计,非常适合处理需要在写入后快速分析的时间序列数据。Druid 还提供集成,用于将历史数据存储在更便宜的对象存储中,以便也可以使用 Druid 分析历史时间序列数据。

Elasticsearch 用于时间序列数据

得益于其分布式架构、近实时搜索功能以及对聚合的支持,Elasticsearch 可用于时间序列数据存储和分析。但是,与专用时间序列数据库相比,它可能未针对时间序列数据进行优化。尽管如此,Elasticsearch 仍广泛用于日志和事件数据存储和分析,这些数据可以被视为时间序列数据。


Apache Druid 关键概念

  • 数据摄取:将数据从各种来源(例如流式或批量数据源)导入到 Druid 的过程。
  • :Druid 中最小的数据存储单元,段是不可变的、分区的和压缩的。
  • 数据汇总:在摄取期间聚合原始数据的过程,以减少存储需求并提高查询性能。
  • 节点:Druid 的架构由不同类型的节点组成,包括 Historical、Broker、Coordinator 和 MiddleManager/Overlord,每个节点都有特定的职责。
  • 索引服务:Druid 的索引服务管理摄取数据、创建段以及将它们发布到深度存储的过程。

Elasticsearch 关键概念

  • 倒排索引:Elasticsearch 使用的数据结构,用于实现快速高效的全文搜索。
  • 集群:一组 Elasticsearch 节点,它们协同工作以分配数据和处理任务。
  • 分片:Elasticsearch 索引的分区,允许将数据分布在多个节点上,以提高性能和容错能力。


Apache Druid 架构

Apache Druid 是一个功能强大的分布式数据存储,专为大型数据集上的实时分析而设计。在其架构中,多个核心组件在确保其效率和可扩展性方面发挥着关键作用。以下是为 Apache Druid 提供支持的核心组件的概述。

  • Historical 节点是 Druid 数据服务功能的基础。它们的主要职责是为查询提供存储的数据。为了实现这一点,它们从深度存储加载段,将它们保留在内存中,然后处理对这些段的查询。在考虑部署和管理时,这些节点通常部署在配备大量内存和 CPU 资源的机器上。它们的可扩展性显而易见,因为只需合并更多节点即可水平扩展它们。
  • Broker 节点充当传入查询的网关。它们的主要功能是将这些查询路由到相应的 historical 节点或实时节点。有趣的是,它们是无状态的,这意味着可以扩展它们以适应查询并发性的增加。
  • Coordinator 节点具有管理角色,负责监督数据在 historical 节点之间的分布。它们关于加载或删除哪些段的决策基于特定的可配置规则。在部署方面,Druid 设置通常只需要一个活动 coordinator 节点,并在备用节点上待机以应对故障转移情况。
  • Overlord 节点决定摄取任务的分配,将它们定向到 middle manager 或 indexer 节点。它们的部署与 coordinator 节点类似,通常有一个活动的 overlord 和一个备份用于冗余。
  • MiddleManager 和 Indexer 节点是 Druid 中数据摄取的主力。虽然 MiddleManager 启动用于数据摄取的短期任务,但 indexer 专为长期任务而设计。鉴于它们的密集操作,这些节点需要高 CPU 和内存资源。它们的可扩展性很灵活,允许根据数据摄取量进行水平扩展。
  • Deep Storage 是一个组件,充当 Druid 的持久存储单元。Druid 与各种 blob 存储解决方案集成,如 HDFS、S3 和 Google Cloud Storage。
  • Metadata Storage 是关于段、任务和配置的关键元数据的存储库。Druid 与流行的数据库兼容,用于此目的,包括 MySQL、PostgreSQL 和 Derby。

Elasticsearch 架构

Elasticsearch 是一种分布式的 RESTful 搜索和分析引擎,它使用无模式 JSON 文档数据模型。它构建于 Apache Lucene 之上,并提供用于索引、搜索和分析数据的高级 API。Elasticsearch 的架构设计为水平可扩展,数据分布在集群中的多个节点上。数据使用倒排索引进行索引,这使得能够进行快速高效的全文搜索。

免费时间序列数据库指南

获取关于备选方案和选择数据库的关键要求的全面评述。

Apache Druid 功能特性

数据摄取

Apache Druid 支持实时和批量数据摄取,允许它处理来自各种来源的数据,如 Kafka、Hadoop 或本地文件。凭借对数据分区、复制和汇总的内置支持,Druid 确保了高可用性和高效存储。

可扩展性和性能

Druid 设计为水平扩展,为大规模部署提供支持,且性能下降最小。其独特的架构允许快速高效的查询,使其适用于需要低延迟分析的用例。

列式存储

Druid 以列式格式存储数据,与基于行的存储系统相比,可以实现更好的压缩和更快的查询性能。列式存储还允许 Druid 通过仅访问相关列来优化查询。

时间优化索引

Druid 的索引服务创建具有基于时间的分区的段,优化了时间序列数据的数据存储和检索。此功能显著提高了基于时间的查询的查询性能。数据汇总

Druid 的数据汇总功能在摄取期间聚合原始数据,从而减少存储需求并提高查询性能。此功能对于涉及高基数数据或大量相似数据点的用例尤其有利。

Elasticsearch 功能特性

Elasticsearch 提供强大的全文搜索功能,支持复杂查询、评分和相关性排名。

可扩展性

Elasticsearch 的分布式架构实现了水平可扩展性,使其能够处理大量数据和高查询负载。

聚合

Elasticsearch 支持各种聚合操作,如总和、平均值和百分位数,这些操作对于分析和汇总数据非常有用。


Apache Druid 用例

地理空间分析

Apache Druid 提供对地理空间数据和查询的支持,使其适用于涉及基于位置的数据的用例,例如跟踪资产的移动、分析用户位置或监控事件的分布。它高效处理大量地理空间数据的能力使户能够获得见解并根据位置信息做出数据驱动的决策。

机器学习和人工智能

Druid 的高性能数据处理功能可用于机器学习和人工智能工作流程中的预处理和特征提取。它对实时数据摄取和低延迟查询的支持使其适用于需要实时预测或见解的用例,例如推荐系统或预测性维护。

实时分析

Apache Druid 的低延迟查询和实时数据摄取功能使其成为实时分析用例的理想解决方案,例如监控应用程序性能、用户行为或业务指标。

Elasticsearch 用例

日志和事件数据分析

Elasticsearch 广泛用于存储和分析日志和事件数据,如 Web 服务器日志、应用程序日志和网络事件,以帮助识别模式、排除故障和监控系统性能。

Elasticsearch 是在应用程序、网站和内容管理系统中实现全文搜索功能的常用选择,因为它具有强大的搜索功能和灵活的数据模型。

安全分析

Elasticsearch 与其他 Elastic Stack 组件结合使用,可用于安全分析,如监控网络流量、检测异常和识别潜在威胁。


Apache Druid 定价模型

Apache Druid 是一个开源项目,因此,它可以免费自行托管,无需许可费用。但是,选择自行托管 Druid 的组织在部署和运营 Druid 环境时,将产生与基础设施、管理和支持相关的费用。这些成本将取决于组织的具体要求和选择的基础设施,无论是在本地还是在云端。

对于那些喜欢托管解决方案的人,可以使用云服务,这些服务提供 Apache Druid 作为托管服务,例如 Imply Cloud。通过托管服务,提供商负责基础设施、管理和支持,从而简化了 Druid 的部署和运营。这些托管服务的定价将因提供商和选择的服务层级而异,其中可能包括数据存储、查询容量和数据摄取速率等因素。

Elasticsearch 定价模型

Elasticsearch 是开源软件,可以自行托管,无需任何许可费。但是,应考虑运营成本,如硬件、托管和维护。Elasticsearch 还提供名为 Elastic Cloud 的托管云服务,该服务根据存储、计算资源和支持等因素提供各种定价层级。Elastic Cloud 包括其他功能和工具,如 Kibana、机器学习和安全功能。