您现在的位置是:热点 >>正文

一篇关于HDFS的快照讲解

热点9126人已围观

简介...

一个snapshot(快照)是一个全部文件系统、或者某个目录在某一时刻的镜像,使用vmware类似软件的同学指定,快照可以为虚拟机保存某个状态,如果做了更改,或者系统被折腾坏,还有个复原的操作。

快照应用在如下场景中:

防止用户的错误操作; 备份:给hdfs目录做快照,然后复制快照里面的文件到备份; 试验/测试 灾难恢复 HDFS的快照操作

这里测一篇试的Hadoop3.0版本,也是我的线上版本。

开启快照 hdfs dfsadmin -allowSnapshot /data/test/test_snapshot  [hdfs@cdh-003 ~]$ hdfs dfs -ls /data/tes关于t/test_snapshot -rw-r--r--   2 hdfs supergroup         88 2021-10-08 16:59 /daHDta/test/test_snapshot/ods_user1.txt 

这里开启目录/data/test/test_snapshot快照功能,该目录当前有一个文件ods_user1.txt。

创建快照

给目录/data/test/test_snapshot创建了一个快照,名为backup01。

hdfs dfs -cFSreateSnapshot /data/test/test_snapshot backup01  [hdfs@cdh-003 ~]$ hdfs dfs -ls /data/test/test_snapshot/.snapshot/backup01的快 Found 1 items -rw-r--r--   2 hdfs supergroup         88 2021-10-08 1照讲6:59 /data/test/test_snapshot/.snapshot/backup01/ods_user1.txt 

可以看到实际上是在开启快照的目录下新建了一个文件夹.snapshot,下面有个目录backup01,里面有一个文件,相当于复制了一份文件。

查看快照

hdfs lsSnapshottableD一篇ir 

再上传一个文件

hdfs dfs -put data/urls.txt /data/test/test_snapshot 

再创建一个快照

hdfs dfs -createSnapshot /data/test/test_snapshot 关于;backup02 

这里又新建了一个快照backup02,.snapshot下面有两个目录,分别是backup01和backup02。

[hdfs@cdh-003 ~]$ hdfs dfs -ls /data/test/test_snapshot/.snapshot FoundHD 3 items drwxr-xr-x   - hdfs supergroup          0 2021-10-08 17:04 FS/data/test/test_snapshot/.snapshot/backup01 drwxr-xr-x   - hdfs supergroup          0 的快2021-10-08 17:12 /data/test/test_snapshot/.snapshot/backup02 

对比快照

因为后来又上传了一个文件,所以快照backup02下面有2个文件了,比backup01多一个文件urls.txt。

[hdfs@cdh-003 ~]$ hdfs&nbs照讲p;snapshotDiff /data/test/test_snapshot backup01 backup02 Difference between snapshot backup01 and snapshot backup02&nbs一篇p;under directory /data/test/test_snapshot: M .  + ./urls.txt 

恢复快照如果不小心把文件删除了,这个文件就被移动到回收站(如果开启了回收站),如果回收站到期清理了或者没有开启回收站,这个时候快照的作用就发关于挥出来了,直接cp过去。

hdfs dfs -cp /data/test/test_snapshot/.snapshot/backup01/ods_user1.txt /data/test/test_snapshot 

 

Tags:

相关文章

  • 凉拌菜怎么做

    热点

    拌?拌凉菜做法:花生拌黄瓜食材:生花生米少许、新鲜黄瓜1根、木耳1小把、洋葱1个、食用油适量、白糖适量、盐适量、鸡精少许、生抽适量、米醋适量、香菜少许、香。凉菜做法?第四道:凉拌娃娃菜1、娃娃菜洗净,...

    【热点】

    阅读更多
  • 标签: 英伟达 cuDF cuVS GTC2026

    热点

    云梦级3月17日云梦级消息,GPU 技术大会(GTC)3 月 17 日在美国圣何塞拉开帷幕,英伟达首席执行官黄仁勋在演讲中明确指出,“Token”(词元)是新 AI 时代的基础构建单元。 黄仁勋在演讲...

    【热点】

    阅读更多
  • IDC:2023年中国大模型平台市场份额百度智能云占19.9% 居第一

    热点

    8月21日消息,IDC发布了《中国大模型平台市场份额,2023:大模型元年——初局》。IDC数据显示,2023年中国大模型平台及相关应用市场规模达17.65亿元人民币。在过去的一年中,行业对于大模型更...

    【热点】

    阅读更多


友情链接