博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hive on Hbase
阅读量:5862 次
发布时间:2019-06-19

本文共 1818 字,大约阅读时间需要 6 分钟。

  hot3.png

介绍

        HBase是一个列式数据库,有自己的一套查询语法,Hive做为数仓,使用HQL来查询,作为分析人员擅长使用SQL来分析数据,这样就有了使用SQL来查询HBase的需求,Hive on HBase作为一套成熟的方案,在hadoop生态圈使用比较广泛。hive通过HBaseStorageHandler这个模块来读取HBase的数据。

环境

        Hadoop 版本:CDH 5.10    

        OS版本:CentOS release 6.7 (Final)

依赖

    安装hive-hbase

yum install hive-hbase -y

    确保存在如下jar

/usr/lib/hive/lib/zookeeper.jar;/usr/lib/hive/lib/hive-hbase-handler.jar/usr/lib/hive/lib/guava-
.jar;/usr/lib/hive/lib/hbase-client.jar;/usr/lib/hive/lib/hbase-common.jar;/usr/lib/hive/lib/hbase-hadoop-compat.jar;/usr/lib/hive/lib/hbase-hadoop2-compat.jar;/usr/lib/hive/lib/hbase-protocol.jar;/usr/lib/hive/lib/hbase-server.jar;/usr/lib/hive/lib/htrace-core.jar;

    设置hive配置

        当你使用hive连接单节点hbase master的时候,直接在CLI指定hbase master即可:beeline  -hiveconf hbase.master=HMaster:60000

        当你使用hive连接HA模式的hbase master的时候,直接在CLI指定zookeeper地址即可:beeline  -hiveconf hbase.zookeeper.quorum=zkaddress:2181 或者设置环境变量 export HIVE_OPTS="-hiveconf zookeeper_address:2181"

            ps:每次输入这么多配置比较麻烦,也可以在配置文件中进行设置,下面二选一即可

        1    拷贝hbase-site.xml

                拷贝hbase的配置文件hbase-site.xml到/etc/hive/conf目录下即可

        2    配置hive-site.xml

hbase.zookeeper.quorum
zkaddress:2181

    重启hive

/etc/init.d/hive-server2 restart

配置

    查看hbase表结构

describe "xxx"

   

        ps:只能看到列簇,并不能看到列,后面hive进行映射的时候,要注意

    在hive中创建hbase映射表

CREATE EXTERNAL TABLE hbase_table_reg_profile(key String, age string,name String) STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'WITH SERDEPROPERTIES ("hbase.columns.mapping" = ":key,info:age,info:name")TBLPROPERTIES("hbase.table.name" = "reg_profile", "hbase.mapred.output.outputtable" = "reg_profile");

 

测试

    beeline登录测试

    异常解决

    ps:开始的时候始终出现这样的错误,经过排查,是由于连接hbase失败导致的,一种是单节点hbase连接不通,一种是连接多节点hbase master的zk地址没配置

注意事项

    当你在hive中创建hive on hbase表之后,使用其他hive账户访问该表的时候,该hive账户必须在hbase表中有相关hbase表的访问权限。

 

 

转载于:https://my.oschina.net/guol/blog/873458

你可能感兴趣的文章
转两好文防丢:Debian 版本升级/降级 & Linux 应用程序失去输入焦点问题的解决...
查看>>
HDU - Pseudoforest
查看>>
Linux平台Java调用so库-JNI使用例子
查看>>
Web服务器压力测试工具http_load、webbench、ab、Siege使用教程
查看>>
Mac软件下载备忘
查看>>
在Linux中执行.sh脚本,异常/bin/sh^M: bad interpreter: No such file or directory
查看>>
就是一个表格
查看>>
找回使用Eclipse删除的文件
查看>>
URL与ASCII
查看>>
java读取properties配置文件
查看>>
UITableview中cell重用引起的内容重复的问题
查看>>
Windows7操作系统安装教程(图文)
查看>>
除了模拟手术教学,VR在医疗领域如何应用?
查看>>
盘点5款Ubuntu监控工具解决CPU暴增问题
查看>>
用CSS做导航菜单的4个理由
查看>>
NOIP2015 运输计划 二分答案+Tarjan LCA+树上差分
查看>>
基本信息项目目标文档
查看>>
移动开发Html 5前端性能优化指南
查看>>
silverlight style和template 使用之tip
查看>>
Eclipse配置python环境
查看>>