关于千万级数据的OLAP场景是什么样的

技术关于千万级数据的OLAP场景是什么样的关于千万级数据的OLAP场景是什么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。前段时间接手一

许多新手不太清楚数千万数据的OLAP场景。为了帮助大家解决这个问题,下面小编就为大家详细讲解一下。有这种需求的人可以从中学习,希望你能有所收获。

前段时间我接手了一个棘手的项目。

6000万股市数据聚合场景。

从10: 00到10: 10,用户发起查询、分析、然后聚合,最后呈现给用户的时间不超过2秒。

因为聚合维度很多,所以可以分为时间维度和指标维度。指标维度超过10个。

当mongo从10到1010使用时,大约有2000万个数据被首先抛出。没有索引,几乎没有产生任何结果。

如果每个维度都使用索引,成本太高,最后mongo被果断放弃。

00-1010使用mysql,数据是碎片化的,并且非常细粒度,它已经准备好用空间换取时间。

数据冗余主要是基于时间维度,对几个主要时间段和时间点提前做好数据准备。

其他维度很难计算。

想法是好的,考试的结果对我来说相当残酷。

1.硬计算耗时太长。

2.非主时间维度跨度太细,并非都是前置数据。

2010年10月至10月,采用elasticsearch,准备了5台服务器。准备了五个es集群来应对OLAP的情况。

导入5000万数据后,开始测试。

时间维度的其他单个维度在1秒以内。

时间维度的其他维度(3以内)在3秒以内。

阅读以上内容对你有帮助吗?如果您想了解更多相关知识或阅读更多相关文章,请关注行业资讯频道,感谢您的支持。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/37461.html

(0)

相关推荐

  • oracle中keep分析函数(oracle表空间巡视)

    技术Oracle调优中常用表KEEP到内存中的示例分析本篇文章为大家展示了Oracle调优中常用表KEEP到内存中的示例分析,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。数据迁移

    攻略 2021年12月24日
  • 怎么实现Hadoop集群搭建

    技术怎么实现Hadoop集群搭建怎么实现Hadoop集群搭建,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。阅读编译文档 准备一个hadoop源码包,我选择的

    攻略 2021年11月16日
  • angular怎么设置全局变量(angular模板使用全局变量)

    技术angular怎么设置全局变量本篇内容主要讲解“angular怎么设置全局变量”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“angular怎么设置全局变量”吧!在angu

    攻略 2021年12月21日
  • 太阳像什么的比喻句,太阳像个大火球是完整的比喻句吗

    技术太阳像什么的比喻句,太阳像个大火球是完整的比喻句吗“太阳像个大火球”是2113比喻句!5261 有一个“像”字可不代表就是比喻句4102. 句子如果说“不像”,就是没1653有把什么比喻什么,也就是没有本体、喻体,甚

    生活 2021年10月22日
  • KEGG Module 数据库的原理是什么

    技术KEGG Module 数据库的原理是什么KEGG Module 数据库的原理是什么,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。具有相同功能的基因

    攻略 2021年12月2日
  • spark的数据本地优化级别(spark参数优化)

    技术spark中怎么配置启用LZO压缩这篇文章给大家介绍spark中怎么配置启用LZO压缩,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。Spark中配置启用LZO压缩,步骤如下:一、spark-en

    攻略 2021年12月17日