您现在的位置是:热点 >>正文
Hive中的内部表、外部表、分区表和分桶表
热点98573人已围观
简介...
在Hive数据仓库中,重要点就是Hive中的四个表。Hive 中的表分为内部表、外部表、分区表和分桶表。
内部表
默认创建的表都是所谓的内部表,有时也被称为管理表。因为这种表,Hive 会(或多或少地)控制着数据的生命周期。Hive 默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下。当我们删除一个管理表时,Hive 也会删除这个表中数据。管理表不适合和其他工具共享数据。
具体的内部表创建命令
CREATE TABLE emp( empno INT, ename STRING, job&nbHisp;STRING, mgr INT, hiredate TIMESTAMP, sal DECIMAL(7,2), comm DECIMAL(7,2), deptno INT) ROW FORMAT DELIMITED FIELDS TERMINATED BY " "; -- 分隔符 外部表
外部表称之为EXTERNAL_TAveBLE;其实就是,在创建表时可以自己指定目录位置(LOCATION);如果删除外部表时,只会删除元数据不会删除表数据;
具体的外部表创建命令,比内部表多一个LOCATION而已。
CREATE EXTERNAL TABLE emp_external( empno INT, ename STRING, job STRING, mgr INT, hiredate TIMESTAMP, sal DECIMAL(7,2), comm DECIMAL(7,2),  中的; deptno INT) ROW FORMAT DELIMITED FIELDS TERMINATED BY " " LOCATION '/hive/emp_external'; 「内部表和外部表的区别:」 创建内部表时:会将数据移动到数据仓库指向的路径; 创建外部表时:仅记录数据所在路径,不对数据的位置做出改变; 删除内部表时:删除表元数据和数据; 删除外部表时,删除元数据,不删除数据。 分区表
分区表实际上就是对应一个 HDFS 文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive 中的分区就是分目录,把一个大的数据集根据业务需要分割成小的数据集。在查询时通过 WHERE 子句中的表达式选择查询所需要的指定的分区,这样的查询效率会提高很多。
具体的分内部区表创建命令如下,比外部表多一个PARTITIONED。PARTITIONED英文意思就是分区的,需要指定表中的其中一个字段,这个就是根据该字段的不同,划分不同的文件夹。
CREATE EXTERNAL TABLE emp_partition( empno INT, ename STRING, job STRING, mgr INT, hiredate TIMESTAMP, sal DECIMAL(7,2), comm DECIMAL(7,2)  表、;) PARTITIONED BY (deptno INT) -- 按照部门编号进行分区 ROW FORMAT DELIMITED FIELDS TERMINATED BY " " LOCATION '/hive/emp_partition'; 分桶表
分区在HDFS上的表现形式是一个目录,分桶则是一个单独的文件。分桶则是指定分桶表的某一列,让该列数据按照哈希取模的方式随机、均匀地分发到各个桶文件中。
具体的分桶表创建命令如下,比分区表的不同在于CLUSTERED。CLUSTERED英文意思就是群集的。分桶操作和分区一样,需要根据某一列具体数据来进行哈希取模操作外部,故指定的分桶列必须基于表中的某一列(字段)
CREATE EXTERNAL TABLE emp_bucket( empno INT, ename STRING, job STRING, mgr INT, hiredate TIMESTAMP, sal DECIMAL(7,2), comm DECIMAL(7,2), deptno INT) CLUSTERED BY(empno) S表、ORTED BY(empno ASC) INTO 4 BUCKETS --按照员工编号散列到四个 bucket 中 ROW FORMAT DELIMITED FIELDS TERMINATED BY " " LOCATION '/hive/emp_bucket'; 「分区表和分桶表的区别:」
Hive 数据表可以根据某些字段进行分区操作,细化数据管理,可以让部分查询更快。同时表和分区也可以进一步被划分为 Buckets,分桶表的原理和 MapReduce 编程中的 HashPartitioner 的原理类似;分区和分桶都是细化数据管理,但是分区表是手动添加区分,由于 Hive 是读模式分区,所以对添加进分区的数据不做模式校验,分桶表中的数据是按照某些分桶字段进行 hash 散列形成的多个文件,所以数据的准确性也高很多。
分桶表的建表有三种方式:直接建表,CREATE TABLE LIKE 和 CREATE TABLE AS SELECT
注:不能直接向桶表中加载数据,需要使用insert语句插入数据,因此只要见到load data 到桶表的,基本是乱来的。分桶表的数据通常只能使用 CTAS(CREATE TABLE AS SELECT) 方式插入,因为 CTAS 操作会触发 MapReduce,因此分桶的时间是比较长的,因为要进行MapReduce操作。
根据上面命令,成功创建了内部表、外部表、分区表和分桶表。
下面依次插入数据到四张表,emp.txt具体内容如下:
7369 SMITH CLERK 7902 1980-12-17 00:00:00 800.00 &nb表和sp;20 7499 ALLEN SALESMAN 7698 1981-02-20 00:00:00 1600.00 300.00 30 7521 WARD SALESMAN 7698 1981-02-22 00:00:00 1250.00 500.00 30 7566 JONES MANAGER 7839 1981-04-02 00:00:00 2975.00 20 7654 MARTIN SALESMAN 7698 1981-09-28 00:00:00 1250分桶.00 1400.00 30 7698 BLAKE MANAGER 7839 1981-05-01 00:00:00 2850.00 30 7782 CLARK MANAGER 7839 1981-06-09 00:00:00 2450.00 10 7788 SCOTT ANALYST 7566 1987-04-19 00:00:00 1500.00 20 7839 KING PRESIDENT 1981-11-17 00:00:00 500Hi0.00 10 7844 TURNER SALESMAN 7698 1981-09-08 00:00:00 1500.00 0.00 30 7876 ADAMS CLERK 7788 1987-05-23 00:00:00 1100.00 20 7900 JAMES CLERK 7698 1981-12-03 00:00:00 950.00 30 7902 FORD ANALYST 7566 1981-12-03 00:00:00 3000.00&venbsp; 20 7934 MILLER CLERK 7782 1982-01-23 00:00:00 1300.00 10
具体的插入数据命令如下所示:
## 内部表 load data local inpath "emp.txt" into table emp; ## 外部表 load data local inpath "emp.txt" into table emp_external; ## 分区表 LOAD DATA LOCAL INPA中的TH "emp.txt" OVERWRITE INTO TABLE emp_partition PARTITION (deptno=10); LOAD DATA LOCAL INPATH "emp.txt" OVERWRITE INTO TABLE emp_partition PARTITION (deptno=20); LOAD DATA LOCAL INPATH "emp.txt" OVERWRITE INTO TABLE emp_partition PARTITION (deptno=30); ##&n内部bsp;分桶表 -- 启用桶表 set hive.enforce.bucketing=true; -- 限制对桶表进行load操作 set hive.strict.checks.bucketing = true; INSERT INTO TABLE emp_bucket SELECT * FROM emp; --这里的 emp 表就是一张普通的雇员表
每次向桶表进行INSERT操作,其实都需要创建中间表。
Tags:
相关文章
连肌肉颤动都清晰可见!3D人体模型自动生成算法,一作北大图灵班
热点本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 我们在打游戏、看动漫的时候,遇到过不少这样的情况: 感觉哪里不太对…… 现在,这些3D人体模型可以得到改进了~体态更逼真、...
【热点】
阅读更多标签: 长安汽车 小安 人形机器人 长安科技
热点云梦级12月1日云梦级消息,11月28日,长安汽车发布公告称,董事会审议通过了《关于投资设立机器人公司的议案》,拟以自有资金出资2.25亿元,参与设立长安天枢智能机器人科技有限公司(简称“长安机器人公...
【热点】
阅读更多标签: 抖音 未成年人保护 儿童邪典 AI篡改动画
热点云梦级3月3日云梦级消息,抖音始终高度重视未成年人保护工作,对危害未成年人身心健康的不良内容零容忍,持续从严治理相关违规内容和账号,围绕“利用未成年人形象不当牟利”“涉未成年人色情低俗”“利用AI技术...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.teamlab.art/ko/?submit=谷歌外推代发【tg:seogoogle987】,OAH
- https://www.localfootdoc.com/?s=谷歌外推代发【tg:seogoogle987】,ubS
- https://www.zalora.sg/catalog/?cat=112&q=谷歌外推代发【tg:seogoogle987】,ybl
- https://www.flickr.com/photos/tags/谷歌外推代发【tg:seogoogle987】CtP
- https://www.abbreviations.com/谷歌外推代发【tg:seogoogle987】sr3
- https://www.pearlstonecenter.org/search/谷歌外推代发【tg:seogoogle987】,6y3
- https://www.tcv.org.uk/search/谷歌外推代发【tg:seogoogle987】,KsM
- https://www.pmindia.gov.in/en/?s=谷歌外推代发【tg:seogoogle987】,IgP
- https://www.wilsonart.com/catalogsearch/result/?action=CHECK&q=谷歌外推代发【tg:seogoogle987】,elW
- https://www.maigoo.com/search/?block=&q=谷歌外推代发【tg:seogoogle987】,kAd
- https://www.teamlab.art/?submit=谷歌外推代发【tg:seogoogle987】,abA
- https://www.theaerogroup.net/?cat=28&s=谷歌外推代发【tg:seogoogle987】,WxZ
- https://www.zutari.com/?s=谷歌外推代发【tg:seogoogle987】,mPl
- https://www.umc.edu/search.aspx?ID=I4gnDKRS991MFcIDDzoYze4aWSAszAm7&q=谷歌外推代发【tg:seogoogle987】,0te
- https://www.solerpalau.com/en-en/catalogsearch/result/?q=谷歌外推代发【tg:seogoogle987】,hVm
- https://www.krisinformation.se/en/search?q=谷歌外推代发【tg:seogoogle987】,biq
- https://www.qidulp.com/search?query=谷歌外推代发【tg:seogoogle987】,cgj
- https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=谷歌外推代发【tg:seogoogle987】,xk8
- https://www.livehindustan.com/tags/谷歌外推代发【tg:seogoogle987】,zX1
- https://www.ncetm.org.uk/search?action=CHECK&q=谷歌外推代发【tg:seogoogle987】,QoS
- https://www.tumblr.com/tagged/谷歌外推代发【tg:seogoogle987】,5DB
- https://www.impactpool.org/search/?type=79&q=谷歌外推代发【tg:seogoogle987】Q1B
- https://www.teacherspayteachers.com/Browse/Search:谷歌外推代发【tg:seogoogle987】,Kfy
- https://www.sdcard.org/ja/?s=谷歌外推代发【tg:seogoogle987】,dWh
- https://www.whirlpool.com.hk/chinese/catalogsearch/result?cat=30&q=谷歌外推代发【tg:seogoogle987】,sT3
- https://www.tiktok.com/tag/谷歌外推代发【tg:seogoogle987】,cgC
- https://www.tailoy.com.pe/catalogsearch/result/?q=谷歌外推代发【tg:seogoogle987】,4Ur
- https://www.parriscues.com/catalogsearch/result/?q=谷歌外推代发【tg:seogoogle987】,q05
- https://www.teacherspayteachers.com/Browse/Price-Range/Free/Search:谷歌外推代发【tg:seogoogle987】,ihX
- https://www.springfieldlibrary.org/?s=谷歌外推代发【tg:seogoogle987】,ffG
- https://www.klatreverden.no/search?q=谷歌外推代发【tg:seogoogle987】,3nt
- https://www.remit.co.jp/ne/?s=谷歌外推代发【tg:seogoogle987】,a58
- https://dict.naver.com/dict.search?dicQuery&query=谷歌外推代发【tg:seogoogle987】qGO
- https://www.riohondo.edu/?action=QUERY&s=谷歌外推代发【tg:seogoogle987】,jZX
- https://www.woorden.org/spreekwoord.php?woord=谷歌外推代发【tg:seogoogle987】,iXr
- https://www.takachi-enclosure.com/search?eqYB=gnI31Ou&text=谷歌外推代发【tg:seogoogle987】,KWw
- https://www.ng-slo.si/si/iskanje?cat=114&q=谷歌外推代发【tg:seogoogle987】,Mdb
- https://www.ucycle.com/search/=谷歌外推代发【tg:seogoogle987】,aZ5
- https://www.madebyoranges.com/nl/search/谷歌外推代发【tg:seogoogle987】,f61
- https://www.rea.govt.nz/search?searchterm=谷歌外推代发【tg:seogoogle987】,Wsx
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=谷歌外推代发【tg:seogoogle987】qwU
- https://yscc1986.net/search/谷歌外推代发【tg:seogoogle987】lvC
- https://www.pinkpanda.ro/magazin/ingrijirea-tenului?page=87&q=谷歌外推代发【tg:seogoogle987】,w0t
- https://www.rostaing.com/catalogsearch/result/?cat=22&q=谷歌外推代发【tg:seogoogle987】,GFg
- https://xehay.vn/tim-kiem/=谷歌外推代发【tg:seogoogle987】,Q2y
- https://www.yidian51.com/taobao/谷歌外推代发【tg:seogoogle987】,XIb
- https://www.teamlab.art/fr/?submit=谷歌外推代发【tg:seogoogle987】,ZAl
- https://www.tahiti-infos.com/search/谷歌外推代发【tg:seogoogle987】,8G7
- https://www.maafushidive.com?collections?vendors?q=谷歌外推代发【tg:seogoogle987】,6cQ
- https://www.voices.com/talents/search?keywords=谷歌外推代发【tg:seogoogle987】,7L0