Elasticsearch 与 M3 对比

Elasticsearch 概述

Elasticsearch 是一个开源的分布式搜索和分析引擎，构建于 Apache Lucene 之上。它于 2010 年首次发布，此后因其可扩展性、近乎实时的搜索能力和易用性而广受欢迎。Elasticsearch 旨在处理各种数据类型，包括结构化、非结构化和基于时间的数据。它通常与 Elastic Stack 中的其他工具结合使用，例如用于数据摄取的 Logstash 和用于数据可视化的 Kibana。

M3 概述

M3 是一个完全用 Go 编写的分布式时序数据库。它旨在收集大量监控时序数据，以水平可扩展的方式分配存储，并有效利用硬件资源。M3 最初由 Uber 开发，作为 Prometheus 和 Graphite 的可扩展远程存储后端，后来开源以供更广泛的使用。

用于时序数据的 Elasticsearch

Elasticsearch 可用于时序数据存储和分析，这得益于其分布式架构、近乎实时的搜索能力以及对聚合的支持。但是，对于时序数据，它可能不如专用时序数据库那样优化。尽管如此，Elasticsearch 仍广泛用于日志和事件数据存储和分析，这可以被视为时序数据。

用于时序数据的 M3

M3 专为时序数据而设计。它是一个分布式且可扩展的时序数据库，针对处理大量高分辨率数据点进行了优化，使其成为存储、查询和分析时序数据的理想解决方案。

M3 的架构侧重于提供快速高效的查询功能以及高摄取率，这对于处理时序数据至关重要。其水平可扩展性和高可用性确保它可以处理大规模部署的需求，并在数据量增长时保持性能。

Elasticsearch 关键概念

• 倒排索引：Elasticsearch 使用的一种数据结构，用于实现快速高效的全文搜索。
• 集群：一组 Elasticsearch 节点，它们协同工作以分配数据和处理任务。
• 分片：Elasticsearch 索引的分区，允许数据分布在多个节点上，以提高性能和容错能力。

M3 关键概念

• 时序压缩：M3 具有压缩时序数据的能力，从而显著节省内存和磁盘空间。它使用两种压缩算法，M3TSZ 和 protobuf 编码，以实现高效的数据压缩。
• 分片：M3 使用分配给物理节点的虚拟分片。时序键哈希到一组固定的虚拟分片，使水平扩展和节点管理无缝衔接。
• 一致性级别：M3 为读取和写入操作以及集群连接操作提供可变的一致性级别。写入一致性级别包括 One（单个节点成功）、Majority（大多数节点成功）和 All（所有节点成功）。读取一致性级别为 One，对应于从单个节点读取

Elasticsearch 架构

Elasticsearch 是一个分布式的 RESTful 搜索和分析引擎，它使用无模式 JSON 文档数据模型。它构建于 Apache Lucene 之上，并提供用于索引、搜索和分析数据的高级 API。Elasticsearch 的架构设计为水平可扩展，数据分布在集群中的多个节点上。数据使用倒排索引进行索引，从而实现快速高效的全文搜索。

M3 架构

M3 设计为水平可扩展并处理高数据吞吐量。它使用 fileset 文件作为长期存储的主要单元，存储时序值的压缩流。这些文件在块时间窗口变得不可访问后刷新到磁盘。M3 具有提交日志，相当于其他数据库中的提交日志或预写日志，这确保了数据完整性。客户端对等流负责从对等方获取块以进行引导。M3 还实施缓存策略，通过确定哪些刷新块保留在内存中来优化高效读取。