关于千万级数据的OLAP场景是什么样的

技术关于千万级数据的OLAP场景是什么样的关于千万级数据的OLAP场景是什么样的,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。前段时间接手一

许多新手不太清楚数千万数据的OLAP场景。为了帮助大家解决这个问题,下面小编就为大家详细讲解一下。有这种需求的人可以从中学习,希望你能有所收获。

前段时间我接手了一个棘手的项目。

6000万股市数据聚合场景。

从10: 00到10: 10,用户发起查询、分析、然后聚合,最后呈现给用户的时间不超过2秒。

因为聚合维度很多,所以可以分为时间维度和指标维度。指标维度超过10个。

当mongo从10到1010使用时,大约有2000万个数据被首先抛出。没有索引,几乎没有产生任何结果。

如果每个维度都使用索引,成本太高,最后mongo被果断放弃。

00-1010使用mysql,数据是碎片化的,并且非常细粒度,它已经准备好用空间换取时间。

数据冗余主要是基于时间维度,对几个主要时间段和时间点提前做好数据准备。

其他维度很难计算。

想法是好的,考试的结果对我来说相当残酷。

1.硬计算耗时太长。

2.非主时间维度跨度太细,并非都是前置数据。

2010年10月至10月,采用elasticsearch,准备了5台服务器。准备了五个es集群来应对OLAP的情况。

导入5000万数据后,开始测试。

时间维度的其他单个维度在1秒以内。

时间维度的其他维度(3以内)在3秒以内。

阅读以上内容对你有帮助吗?如果您想了解更多相关知识或阅读更多相关文章,请关注行业资讯频道,感谢您的支持。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/37461.html

(0)

相关推荐

  • MySQL如何使用profiling

    技术MySQL如何使用profiling这篇文章将为大家详细讲解有关MySQL如何使用profiling,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Mysql SQL优化工具我们常使

    攻略 2021年11月3日
  • Spark Join原理是什么

    技术Spark Join原理是什么这篇文章将为大家详细讲解有关Spark Join原理是什么,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。数据分析中将两个数据集进行 Jo

    攻略 2021年12月3日
  • python函数应用范例

    技术python函数应用范例这篇文章主要讲解了“python函数应用范例”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“python函数应用范例”吧!如何定义一个函数函数也

    攻略 2021年11月9日
  • 利用socket实现一个简单的web聊天(websocket服务器开源)

    技术如何分析基于WebSocket的聊天开源项目如何分析基于WebSocket的聊天开源项目,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。如果你是站长,是否

    攻略 2021年12月24日
  • 黄老,黄老道家与道家是什么关系

    技术黄老,黄老道家与道家是什么关系黄老道家是田氏取代姜子牙后裔齐国政权后,为证明其执政合法性而在思想领域新创造的学说,上联黄帝是为了便于修正老子道学理论,特别是田氏要找一个高于姜子牙祖宗炎帝的祖宗,当然最合适的就是黄帝了

    生活 2021年10月20日
  • USA-IDC美国游戏服务器如何连接数百万玩家

    技术USA-IDC美国游戏服务器如何连接数百万玩家玩过网络游戏都知道,体验的很大一部分是与他人互动——无论是通过联盟合作还是在战斗中对峙。通过高性能大带宽的美国游戏服务器,所有这些人都能够相互交流。得益于全球网络CDN加

    礼包 2021年12月21日