hive的配置以及元数据库表描述

本篇内容主要讲解“hive的配置以及元数据库表描述”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“hive的配置以及元数据库表描述”吧!

创新互联专业为企业提供江西网站建设、江西做网站、江西网站设计、江西网站制作等企业网站建设、网页设计与制作、江西企业网站模板建站服务，10余年江西做网站经验，不只是建网站，更提供有价值的思路和整体网络服务。

一、hive配置

有关hive的配置都在hive-site.xml文件中。

属性描述默认值
hive.metastore.warehouse.dir指定hive表在hdfs上的存储路径/user/hive/warehouse
javax.jdo.option.ConnectionURL配置元数据的连接URL 
javax.jdo.option.ConnectionUserName元数据库连接用户名 
javax.jdo.option.ConnectionPassword元数据库连接密码 

 比如如下的配置：

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:MySQL://m000:3306/hive</value>
  <description>JDBC connect string for a JDBC metastore</description>
</property>
 
<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>hiveuser</value>
  <description>username to use against metastore database</description>
</property>
 
<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>hiveuser</value>
  <description>password to use against metastore database</description>
</property>

在hive中，默认情况下新建的数据库以及表都位于HDFS的hive.metastore.warehouse.dir路径下。如下图分别显示了数据库，表，以及表文件在HDFS上的文件路径 

hive的配置以及元数据库表描述

根据javax.jdo.option.ConnectionURL中设置的数据库，以及用户名和密码，hive就可以写入和读取其元数据信息。 
　　连接元数据库除了配置URL，username，password之外，还有一种间接的方式。可以在hive客户端A上用hive --service metastore启动一个metastore服务，然后在另外一个hive客户端B的hive-site.xml文件中配置hive.metastore.uris=thrift://A:9083也可以访问到元数据信息(9083端口为默认，可使用-p参数手动指定)。

二、元数据库表描述

这一节描述hive元数据库中比较重要的一些表的作用，随着后续对hive的使用逐渐补充更多的内容。 
mysql元数据库hive中的表：

表名作用
BUCKETING_COLS存储bucket字段信息，通过SD_ID与其他表关联
CDS一个字段CD_ID，与SDS表关联
COLUMNS_V2存储字段信息，通过CD_ID与其他表关联
DATABASE_PARAMS空
DBS存储hive的database信息
DELETEME1410257703262空
FUNCS空
FUNC_RU空
GLOBAL_PRIVS全局变量，与表无关
IDXS空
INDEX_PARAMS空
PARTITIONS分区记录，SD_ID, TBL_ID关联
PARTITION_KEYS存储分区字段，TBL_ID关联
PARTITION_KEY_VALS分区的值，通过PART_ID关联。与PARTITION_KEYS共用同一个字段INTEGER_IDX来标示不同的分区字段。
PARTITION_PARAMS存储某分区相关信息，包括文件数，文件大小，记录条数等。通过PART_ID关联
PART_COL_PRIVS空
PART_COL_STATS空
PART_PRIVS空
ROLES角色表，和GLOBAL_PRIVS配合，与表无关
SDS存储输入输出format等信息，包括表的format和分区的format。关联字段CD_ID,SERDE_ID
SD_PARAMS空
SEQUENCE_TABLE存储sqeuence相关信息，与表无关
SERDES存储序列化反序列化使用的类
SERDE_PARAMS序列化反序列化相关信息，通过SERDE_ID关联
SKEWED_COL_NAMES空
SKEWED_COL_VALUE_LOC_MAP空
SKEWED_STRING_LIST空
SKEWED_STRING_LIST_VALUES空
SKEWED_VALUES空
SORT_COLS排序字段，通过SD_ID关联
TABLE_PARAMS表相关信息，是否外部表，通过TBL_ID关联
TAB_COL_STATS空
TBLS存储表信息，关联字段DB_ID,SD_ID,
TBL_COL_PRIVS空
TBL_PRIVS表赋权限相关信息，通过TBL_ID关联
VERSION版本
VERSION_copy版本，通过VER_ID关联

这里补充介绍hive的一个工具脚本metatool。如果需要大量修改元数据库中的相关记录，可以具体查看metatool脚本的使用方法。 
　　比如说，对一个HDFS做HA的时候，如果之前hdfs完整路径是hdfs://m000，做完HA之后把dfs.nameservices设置为my-cluster之后，hdfs的访问路径就变成了hdfs://my-cluster，此时就需要对hive元数据库中所有记录作更新，这时可以参考下面的操作， 
使用metatool脚本，先是新路径，然后是旧路径 
/usr/local/bigdata/hive/bin/metatool -updateLocation hdfs://my-cluster hdfs://m00

到此，相信大家对“hive的配置以及元数据库表描述”有了更深的了解，不妨来实际操作一番吧！这里是创新互联网站，更多相关内容可以进入相关频道进行查询，关注我们，继续学习！

当前题目：hive的配置以及元数据库表描述
文章位置：https://www.cdcxhl.com/article26/gppdcg.html

成都网站建设公司_创新互联，为您提供用户体验、网站导航、网站营销、网站收录、手机网站建设、商城网站

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联

猜你还喜欢下面的内容

成都网站建设公司

网站建设知识

分类信息网站