Hive源码编译的示例分析

技术Hive源码编译的示例分析小编给大家分享一下Hive源码编译的示例分析,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!Hive简介:Hive

边肖将与您分享Hive源代码编译的示例分析。相信大部分人还不太了解,所以分享这篇文章给大家参考。希望你看完这篇文章后收获多多。让我们一起来发现吧!

Hive简介:

Hive是一个基于Hadoop的数据仓库,可以将结构化数据映射成表,并提供类似SQL的功能。它最初是由facebook提供的,使用HQL作为查询接口,HDFS作为存储底层,MapReduce作为执行层。设计目的是让SQL技能变好,但是Java技能弱的分析师却可以查询海量数据。2008年,脸书为阿帕奇贡献了蜂巢项目。Hive提供相对完整的SQL函数(本质是将SQL转换成MapReduce),其最大的缺点是执行速度慢。Hive有自己的元数据结构描述,可以存储在MySql \ ProstgreSql \ oracle等关系数据库中,但请注意Hive中的所有数据都存储在HDFS。Hive具有良好的灵活性和可扩展性,支持UDF,定义存储格式,适合离线数据处理。

Hive体系架构:

Hive源码编译的示例分析

1.用户界面:包括CLI、客户端和wui。最常用的是CLI,它是shell命令行。当命令行界面启动时,配置单元的副本将同时启动。客户端配置单元是客户端配置单元的客户端,用户连接到配置单元服务器。当启动客户端模式时,您需要指出配置单元服务器所在的节点,并在该节点启动配置单元服务器。WUI将通过浏览器访问蜂巢。

2.元数据存储:通常存储在关系数据库中,如mysql、derby。

3.解释器、编译器、优化器和执行器:从词法分析、语法分析、编译、优化和查询计划完成HQL查询语句的生成。生成的查询计划存储在HDFS,然后由MapReduce调用执行。

4.4中的数据。Hadoop:Hive由HDFS存储,MapReduce计算。

Hive源码编译:

我们选择CDH版本进行编译,以hive-1.1.0-cdh6.7.0版本为例。

准备工作:

1.配置jdk1.7环境。

2.安装maven。

3.安装hadoop-2.6.0-cdh6.7.0环境(版本号应对应hive)。

注意:我前期用的是Apache版本的hadoop,现在已经改成CDH版本了。

1.下载并解压源码包hive-1.1.0-cdh6.7.0-src.tar.gz

#下载地址:http://archive.cloudera.com/cdh6/cdh/5/

[root@hadoop000~]#su-hadoop

[hadoop@hadoop000~]$cdsource

[Hadoop @ Hadoop 000 source]$ wget http://archive . cloud era.com/CDH 6/CDH/5/hive-1 . 1 . 0-CDH 6 . 7 . 0-src . tar . gz

[Hadoop @ Hadoop 000 source]$ tar-xzvfhive-1 . 1 . 0-CDH 6 . 7 . 0-src . tar . gz

2.编译

[Hadoop @ Hadoop 000 source]$ cdhive-1 . 1 . 0-CDH 6 . 7 . 0

#这需要一段时间。

[Hadoop @ Hadoop 000 hive-1 . 1 . 0-CDH 6 . 7 . 0]$ mvn-Phadoop-2-Pdist-DSKipTests-Dmaven . javadoc . skip=true clean package

.

.

[INFO]HiveODBC......成功[5.811s]

[信息]HiveShimsAggregator....成功[0.755秒]

[信息]HiveTestUtils.....成功[1.294s]

[信息]HivePackaging.....成功[01:41分钟]

[INFO] -

[信息]建筑成功

[INFO] -

[信息]总时间:18:22分钟

[信息]完成时间:2018-06-02t 11:37:54 08:00

[信息]最终内存:144M/494M

[INFO] -

#成功编译会在源目录下的打包/目标目录中生成一个tar包,在这个tar包中可以找到相关的hive模块jar包。

姓名:apache-hive-1.1.0-cdh6.7.0-bin.tar.gz

#你可以用这个包安装Hive,也可以直接从这个网站http://archive.cloudera.com/cdh6/cdh/5/.下载对应版本的编译安装包以上就是文章《Hive源代码编译示例分析》的全部内容,感谢阅读!相信大家都有一定的了解,希望分享的内容对大家有所帮助。想了解更多知识,请关注行业资讯频道!

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/142069.html

(0)

相关推荐

  • mysql中的limit怎么是使用

    技术mysql中的limit怎么是使用这篇文章主要介绍“mysql中的limit怎么是使用”,在日常操作中,相信很多人在mysql中的limit怎么是使用问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望

    攻略 2021年12月2日
  • 苹果电脑如何切换输入法,Mac下如何切换输入法

    技术苹果电脑如何切换输入法,Mac下如何切换输入法1、如果你只有二个输入法苹果电脑如何切换输入法,一个英文输入法和一个中文输入法,(五笔或拼音),那我们可以用键盘快捷键来切换就行了,按下command键,再按一下空格键,

    生活 2021年10月28日
  • 大众系列车型有哪些,大众哪几个系列的车是国产的

    技术大众系列车型有哪些,大众哪几个系列的车是国产的大众是德国生产的大众系列车型有哪些,分为一汽大众、上海大众、德国大众。“一汽大众”就是“中国一汽”与“德国大众”合作而产生的公司。“上海大众”就是“上海汽车制造厂”与“德

    生活 2021年10月26日
  • 如何检查nodejs是否安装成功

    技术如何检查nodejs是否安装成功这篇文章主要为大家展示了“如何检查nodejs是否安装成功”,内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下“如何检查nodejs是否安装成功”

    攻略 2021年11月7日
  • 智能机怎么刷机,nokla智能机怎么刷机

    技术智能机怎么刷机,nokla智能机怎么刷机有两种刷机。1软刷:恢复出厂设置 2硬刷:(个人不建议)刷机前要备份好重要数据像手机号码什么的 。下面是硬刷过程(搜索粘贴的)  一、准备  1、下载navifirm  2、下

    生活 2021年10月22日
  • 渗的组词,2021年琥珀课文的生字组词

    技术渗的组词,2021年琥珀课文的生字组词2021年《琥珀》课文的生字组词渗的组词:怒(nù),怒火、怒吼、怒骂、怒斥、发怒、怒气冲冲、怒发冲冠、怒目而视。吼(hǒu),吼叫、怒吼、一声吼。
    脂(zhī),油脂、胭脂、脂

    生活 2021年10月24日