ES 按照每隔几分钟,几小时,几天统计折线图

公司应用es有一段时间,今天接触了一个相对复杂的业务,针对每隔几分钟,几小时,几天进行统计折线图,具体逻辑如下图:


如图,系统必须要支持查询,每小时(每隔10分钟),每日(每隔4小时统计),每周(每隔1日),每月(每隔5日)进行统计,找到最大值显示到折线图上。

首先4张图像使用term聚合,每张图像上有两条线,表示cpu和内存,也属于term聚合方式,整个折线图采用dateHistogram聚合方式。

使用语句如下:

GET /system-audit1/auditEvent/_search
{
  "aggs": {
    "sales": {
      "terms": {
        "field": "psName.keyword"
      },"aggs": {
        "type": {
          "terms": {
            "field": "type.keyword"
          },"aggs": {
        "staticTime": {
          "date_histogram": {
            "field": "statisticTime","interval": "4h"
          },"aggs": {
            "maxValue": {
              "max": {
                "field": "value"
              }
            }
          }
        }
      }
        }
      }
    }
  }
}
执行结果:

"aggregations": {
    "sales": {
      "doc_count_error_upper_bound": 0,"sum_other_doc_count": 0,"buckets": [
        {
          "key": "192.168.1.241:es","doc_count": 7516,"type": {
            "doc_count_error_upper_bound": 0,"buckets": [
              {
                "key": "cpu","doc_count": 3763,"staticTime": {
                  "buckets": [
                    {
                      "key_as_string": "2018-01-05T16:00:00.000Z","key": 1515168000000,"doc_count": 2067,"maxValue": {
                        "value": 23.100000381469727
                      }
                    },{
                      "key_as_string": "2018-01-05T20:00:00.000Z","key": 1515182400000,"doc_count": 132,"maxValue": {
                        "value": 22.799999237060547
                      }
                    },{
                      "key_as_string": "2018-01-06T00:00:00.000Z","key": 1515196800000,"doc_count": 0,"maxValue": {
                        "value": null
                      }
                    }...

java代码实现:

List<SystemDistribution> list = new ArrayList<>(); //统计最终的数据
BoolQueryBuilder boolQueryBuilder=QueryBuilders.boolQuery();
boolQueryBuilder.must(QueryBuilders.rangeQuery("createTime").lte(endTime).gt(startTime)); //createTime是YYYYMMDDHHMMSSSSS格式字符串
DateHistogramInterval dateHistogramInterval=getDateHistogramInterval(timeType); //聚合时间类型
TermsAggregationBuilder termAggregation=AggregationBuilders.terms("psName").field("psName.keyword"); //服务器名称聚合
TermsAggregationBuilder typeAggregation=AggregationBuilders.terms("type").field("type.keyword");
AggregationBuilder timeAggregation =
        AggregationBuilders
                .dateHistogram("agg")
                .field("statisticTime")//统计时间聚合
                .dateHistogramInterval(dateHistogramInterval);
MaxAggregationBuilder maxAggregation = AggregationBuilders.max("maxValue").field("value");//最大值聚合
timeAggregation.subAggregation(maxAggregation);
typeAggregation.subAggregation(timeAggregation);
termAggregation.subAggregation(typeAggregation);
SearchResponse response = client.prepareSearch(INDEX_NAME).setTypes(TYPE)
    .setQuery(boolQueryBuilder).addAggregation(termAggregation).execute().actionGet();
Terms genders = response.getAggregations().get("psName");
for (Terms.Bucket entry : genders.getBuckets()) {
  SystemDistribution systemDistribution=new SystemDistribution();
  String psName=entry.getKey().toString();
  systemDistribution.setHostName(psName);
  Terms typeTerm = entry.getAggregations().get("type");
  List<RiskStatisticsVo> memRiskStatistics=new ArrayList<>();
  List<RiskStatisticsVo> cpuRiskStatisTics=new ArrayList<>();
  for (Terms.Bucket entry1 : typeTerm.getBuckets()) {
    String type = entry1.getKeyAsString(); // Key as String  2017-12-27T00:00:00.000Z
    Histogram histogram=entry1.getAggregations().get("agg");
    for(Histogram.Bucket entry2 : histogram.getBuckets()){
      RiskStatisticsVo riskStatisticsVo=new RiskStatisticsVo();
      riskStatisticsVo.setRiskType(type);
      String statisTime=entry2.getKeyAsString();
      Max max=entry2.getAggregations().get("maxValue");
      Double maxValue=max.getValue();
      if(maxValue.equals(Double.NEGATIVE_INFINITY)){ //如果为无穷大,赋值为0
        maxValue=0.0;
      }//-Infinity
      riskStatisticsVo.setStatisticTime(formatReturnTime(statisTime,timeType));//2018-01-08T11:00:00.000Z
      riskStatisticsVo.setCount(maxValue.toString());
      if("mem".equals(type)){
        memRiskStatistics.add(riskStatisticsVo);
      }else{
        cpuRiskStatisTics.add(riskStatisticsVo);
      }
    }
  }
  systemDistribution.setCpuStatisticList(cpuRiskStatisTics);
  systemDistribution.setEmeStatisticList(memRiskStatistics);
  list.add(systemDistribution);
}
return list;
获得时间类型:

private DateHistogramInterval getDateHistogramInterval(String dateType) {
    if(StatisticTimeTypeEnum.HOUR.getName().equals(dateType)){
      return DateHistogramInterval.minutes(10);//统计一个小时内数据,每隔10分钟一个显示
    }else if(StatisticTimeTypeEnum.Day.getName().equals(dateType)){
      return DateHistogramInterval.hours(4); //统计每日,每隔4小时统计
    }else if(StatisticTimeTypeEnum.WEEK.getName().equals(dateType)){
      return DateHistogramInterval.days(1); //每周,统计每天的数据统计
    }else{
      return DateHistogramInterval.days(5); //每月,每隔5天一个统计数据
    }
  }
格式化返回时间:

private String formatReturnTime(String time,String dateType){
    if(StatisticTimeTypeEnum.HOUR.getName().equals(dateType)){
      return time.substring(11,16);
    }else if(StatisticTimeTypeEnum.Day.getName().equals(dateType)){
      return time.substring(8,10)+"日"+time.substring(11,13)+"时";
    }else{
      return time.substring(8,10)+"日";
    }
  }

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


什么是设计模式一套被反复使用、多数人知晓的、经过分类编目的、代码 设计经验 的总结;使用设计模式是为了 可重用 代码、让代码 更容易 被他人理解、保证代码 可靠性;设计模式使代码编制  真正工程化;设计模式使软件工程的 基石脉络, 如同大厦的结构一样;并不直接用来完成代码的编写,而是 描述 在各种不同情况下,要怎么解决问题的一种方案;能使不稳定依赖于相对稳定、具体依赖于相对抽象,避免引
单一职责原则定义(Single Responsibility Principle,SRP)一个对象应该只包含 单一的职责,并且该职责被完整地封装在一个类中。Every  Object should have  a single responsibility, and that responsibility should be entirely encapsulated by t
动态代理和CGLib代理分不清吗,看看这篇文章,写的非常好,强烈推荐。原文截图*************************************************************************************************************************原文文本************
适配器模式将一个类的接口转换成客户期望的另一个接口,使得原本接口不兼容的类可以相互合作。
策略模式定义了一系列算法族,并封装在类中,它们之间可以互相替换,此模式让算法的变化独立于使用算法的客户。
设计模式讲的是如何编写可扩展、可维护、可读的高质量代码,它是针对软件开发中经常遇到的一些设计问题,总结出来的一套通用的解决方案。
模板方法模式在一个方法中定义一个算法的骨架,而将一些步骤延迟到子类中,使得子类可以在不改变算法结构的情况下,重新定义算法中的某些步骤。
迭代器模式提供了一种方法,用于遍历集合对象中的元素,而又不暴露其内部的细节。
外观模式又叫门面模式,它提供了一个统一的(高层)接口,用来访问子系统中的一群接口,使得子系统更容易使用。
单例模式(Singleton Design Pattern)保证一个类只能有一个实例,并提供一个全局访问点。
组合模式可以将对象组合成树形结构来表示“整体-部分”的层次结构,使得客户可以用一致的方式处理个别对象和对象组合。
装饰者模式能够更灵活的,动态的给对象添加其它功能,而不需要修改任何现有的底层代码。
观察者模式(Observer Design Pattern)定义了对象之间的一对多依赖,当对象状态改变的时候,所有依赖者都会自动收到通知。
代理模式为对象提供一个代理,来控制对该对象的访问。代理模式在不改变原始类代码的情况下,通过引入代理类来给原始类附加功能。
工厂模式(Factory Design Pattern)可细分为三种,分别是简单工厂,工厂方法和抽象工厂,它们都是为了更好的创建对象。
状态模式允许对象在内部状态改变时,改变它的行为,对象看起来好像改变了它的类。
命令模式将请求封装为对象,能够支持请求的排队执行、记录日志、撤销等功能。
备忘录模式(Memento Pattern)保存一个对象的某个状态,以便在适当的时候恢复对象。备忘录模式属于行为型模式。 基本介绍 **意图:**在不破坏封装性的前提下,捕获一个对象的内部状态,并在该
顾名思义,责任链模式(Chain of Responsibility Pattern)为请求创建了一个接收者对象的链。这种模式给予请求的类型,对请求的发送者和接收者进行解耦。这种类型的设计模式属于行为
享元模式(Flyweight Pattern)(轻量级)(共享元素)主要用于减少创建对象的数量,以减少内存占用和提高性能。这种类型的设计模式属于结构型模式,它提供了减少对象数量从而改善应用所需的对象结