进击的Matrix

V1

2022/05/22阅读:55主题:自定义主题1

记一次业务问题对Elasticsearch的cardinality原理探究

文章目录

业务问题

小编工作中负责的业务里,有一个业务的服务端系统,使用了 Elasticsearch 服务做数据存储,业务运营人员反馈,用户在使用该产品时发现,用户后台统计的订单笔数和导出的订单笔数不一致!交易订单笔数不对,出现差错订单了?出现这样的问题,在金融科技公司里面是绝对不允许发生的,这个一听极为震撼!得马上定位问题并解决!

线上反馈业务数据查询和导出数据不一致
线上反馈业务数据查询和导出数据不一致

小编马上联系业务和相关人员,通过梳理上游业务系统的调用依赖,发现业务系统使用到的是我这边的 ES 的存储服务,对线上情况进行复现,基本了解问题的现象。

  1. 在用户操作后台中的订单总笔数:商户页面的"订单总笔数","订单总笔数"使用的是小编 ES 存储服务中 ES 的统计聚合功能,其中订单总笔数是使用了 cardinality  操作,并且使用的是 orderId(订单编号)进行统计去重。

  2. 导出功能使用的是 ES 存储服务中的 ES 条件查询功能,导出功能是进行分页查询的。

问题定位

这两个查询数量不一致,首先看查询条件是否一致呢?

经过一番排查,业务系统在调用查询订单总数和导出订单总数的这两个查询条件是一致的,也就是请求到我这边 ES 服务时,统计聚合的查询和分页导出的查询条件是一致的。但是为什么会在 ES 里面查询的结果是不一致的呢?难道 ES 里面的数据不全?统计聚合或分页导出的其中有一个不准了?

为了具体排查哪个操作可能存在问题,于是通过相同条件下查询数据库的总数和 ES 里面的数据进行对比。发现相同条件下,数据库里面的数据和 ES 条件查询的总数是一致的, 同时业务的 orerId 字段是没有重复,所以可以确定的是:通过 orderId 进行统计聚合去重的操作是有问题的。

数据库查询数量
数据库查询数量
运营后台查询数量
运营后台查询数量

数据库查询:数据库是做分库分表,此处数据库查询使用的是公司内的"数据库大表"——公司数据部会 T+1 日从业务从库数据库中抽取 T 日的增量数据放在建立的"大表"中, 方便各业务进行数据使用)。

运营后台查询:运营后台查询是直接查询 ES 存储服务。

数据部大表数量 = MySQL 数据库分库分表表里数量 = 运营控制台查询数量 = ES 存储文档数量

问题定位: ES 存储服务对外给业务提供的: 通过 orderId 进行统计聚合去重的功能应该是有问题的。

ES 的 cardinality 原理探究

上面说过,小编负责的 ES 存储服务对外给业务提供了通过指定字段进行统计聚合去重的功能,统计聚合去重使用的 ES 的 cardinality 功能。通过业务的查询的条件,使用 ES 的聚合功能 cardinality 操作,映射到 ES 层的操作命令如下代码所示,执行下面的操作, 从 ES 里面查询竟然复现了和线上生产一样的结果,聚合统计的是 21514,条件查询的是 21427!!!

可以确定的就是这个 cardinality 操作,导致了两个查询的数据不一致,如下图所示:

GET datastore_big_es_1_index/datastore_big_es_1_type/_search
{
  "size": 3,
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "v021.raw""selfhelp"
          }
        },
        {
          "match": {
            "v012.raw""1001"
          }
        },
        {
          "match": {
            "typeId""00029"
          }
        },
        {
          "range": {
            "createdDate": {
              "gte""2021-02-01",
              "lt""2021-03-01"
            }
          }
        },
        {
          "bool": {
            "should": [
              {
                "match": {
                  "v031.raw""113692300"
                }
              }
            ]
          }
        }
      ]
    }
  },
  "aggs": {
    "distinct_orderId": {
      "cardinality": {
        "field""v033.raw"
      }
    }
  }
}
ES集群控制台cardinality操作
ES集群控制台cardinality操作

为什么 cardinality 操作会出现这样的结果呢? 小 编开始陷入了想当然的陷阱—— 以为这就是一个简简单单的统计去重的功能,ES 做的多好,帮你去重并统计数量了。然后事实并不是,通过 Elasticsearch 对 cardinality 官方文档解释,终于找到了原因。

可以参考Elasticsearch 2.x 版本官方文档对 cardinality的解释 : https://www.elastic.co/guide/cn/elasticsearch/guide/current/cardinality.html

其中对 cardinality 算法核心解释是: ES文档中对cardinality算法特点介绍

可以总结如下:

  1. cardinality 并不是像关系型数据库 MySQL 一样精确去重的,它是一个近似值,是 ES 帮你"估算"出的,这个估算使用的 HyperLogLog++ (HLL)算法,在速度上非常快,遍历一次即可统计去重,具体可看文档中推荐的论文。

  2. ES 做估算,是可以设置估算精确度,即设置参数  precision_threshold 参数,但是这个参数在 0-40000, 这个值越大意味着精度越高,同时意味着损失更多的内存,是以内存空间换精度。

  3. 在小数据量下,ES 的这个"估算"精度是非常高的,可以说是等于实际数量。

HLL算法文档: http://static.googleusercontent.com/media/research.google.com/en//pubs/archive/40671.pdf

下面对 ES 的 cardinality 的 precision_threshold 参数进行了验证:

1、大数据量下,设置最高精度及其以上,仍然会存在误差:

2、小数据量下,设置最高精度,可以和实际数量保持一致:

那么线上的为什么聚合统计的是 21514,条件查询的是 21427?

从不加 precision_threshold 参数可以知道,这个应该是 ES 设置的默认值。线上 ES 集群版本为 5.4x  因此找到 5.4 版本的官方文档,发现 5.4 版本中设置的是默认值 precision_threshold=3000, 因此查询的统计聚合出来的值是 21514。

Elasticsearch 5.4版本官方文档对cardinality的文档及其precision_threshold参数的研究: https://www.elastic.co/guide/en/elasticsearch/reference/current/search-aggregations-metrics-cardinality-aggregation.html

官方文档中precision_threshold设置和cardinality查询失败率的关系研究
官方文档中precision_threshold设置和cardinality查询失败率的关系研究

总结与方案

通过对 cardinality 的初步了解, 需要明白的是 : cardinality 的使用是需要区分使用场景的。

  1. 对于精确统计的业务场景,是不建议使用的。

    例如:订单数的统计(统计结果会引起歧义)的场景下,不建议使用。

  2. 对于非精确统计的业务场景,那么可以说是很有用了,尤其是在大数据量的场景下,在保持一定的准确性下,同时能提供高性能。

    例如:监控指标数据,大盘比例计算等场景,在非精确统计下,还是很大用处。

基于小编的这个业务场景,对商户订单进行统计,是属于精确统计场景,那 cardinality 操作就不适合了。又因为业务的 orderId 是不会重复的,理论上在我们 ES 集群中每个记录的 orderId 都是唯一的,因此可以不用进行去重,而可以直接使用 ES 的 count 操作,将订单数统计汇总出,对应 elasticsearch 开发包中 COUNT API 如下:

org.springframework.data.elasticsearch.core.ElasticsearchTemplate
#count(org.springframework.data.elasticsearch.core.query.SearchQuery, java.lang.Class<T>)
public <T> long count(SearchQuery searchQuery, Class<T> clazz) {
    QueryBuilder elasticsearchQuery = searchQuery.getQuery();
    QueryBuilder elasticsearchFilter = searchQuery.getFilter();
    return elasticsearchFilter == null ? this.doCount(this.prepareCount(searchQuery, clazz), elasticsearchQuery) : this.doCount(this.prepareSearch(searchQuery, clazz), elasticsearchQuery, elasticsearchFilter);
}

本文已做公司信息脱敏处理

最后欢迎大家点赞、收藏、评论,转发!欢迎大家关注我的微信公众号!随机分享无用的计算机知识,微信搜索:进击的Matrix

分类:

后端

标签:

Java

作者介绍

进击的Matrix
V1

软件开发工程师