hdfs最开始开始开启集群的时候,会处于安全模式下,此时内部正检查集群中的副本率是否满足配置文件中所配置的副本率
1、如果不满足就需通过节点间的复制满足副本率后才会退出安全模式。
2、如果大于所配置的副本率,就会通过删除多于副本来降低副本率
检查安全模式的情况:
hdfs dfsadmin -safemode get|enter|leave|wait
注意:
处于安全模式下时,无法对hdfs中的文件进行写,修改操作,只能进行读操作。
dfs.replication.min, 默认是1
这是对hdfs中某个目录做的一个备份。默认情况下,每个目录的快照功能是关闭的,所以如果要给该目录创建快照,就得给该目录开启快照功能。
开启快照:
hdfs dfsadmin -allowSnapshot <snapshotDir>
关闭快照:
hdfs dfsadmin -disallowSnapshot <snapshotDir>
显示所有能创建快照的目录:
hdfs lsSnapshottableDir
比较两个快照不同的地方:
//比较一个目录的两个快照的不同
hdfs snapshotDiff 快照目录 快照1 快照2
//比较目录和快照的不同,中间那个“.”表示当前目录,不可省略
hdfs snapshotDiff 快照目录 . 快照1
创建快照:
//快照的目录 快照的名称(可选)
hdfs dfs -createSnapshot <snapshotDir> [<snapshotName>]
创建的快照状态会存储在所创建快照的目录下的 .snapshot/<snapshotName>/ 这个目录下
删除快照:
//快照的目录 快照的名称(必须要有,因为一个目录可能有多个快照)
hdfs dfs -deleteSnapshot <snapshotDir> <snapshotName>
重命名快照:
//快照的目录 快照的名称(必须要有,因为一个目录可能有多个快照)
hdfs dfs -renameSnapshot <snapshotDir> <oldsnapshotName> <newsnapshotName>
从快照中恢复内容:
可以直接从 <snapshotDir>/.snapshot/<snapshotName>/ 中查看到所有的文件以及目录,需要哪个文件就拷贝哪个文件。
snapshotDir为创建了快照的目录
回收站默认是关闭的,需要在配置文件中设置开启
修改core-site.xml,然后重启hdfs
<!--设置被删除文件在回收站的存活时间,单位为分钟,如果为0,表示关闭回收站 -->
<property>
<name>fs.trash.interval</name>
<value>2</value>
</property>
<!--设置回收站检查时间间隔,如果回收站中文件存活时间到期就从回收站删除,单位是分钟 -->
<property>
<name>fs.trash.checkpoint.interval</name>
<value>1</value>
</property>
开启回收站之后,当我们删除hdfs的文件时,删除的文件会移动到 hdfs的/user/USERNAME/.trash/Current/ 下,其中USERNAME是当前操作hdfs 的有用户名。所以实际上就是剪切操作。
注意:
通过程序删除的文件不会移动到回收站中,需要显式将文件移动到回收站。如果是通过命令行的是会移动到回收站的。
//创建回收站对象
Trash tsh = new Trash(conf);
Path path = new Path(pathString);
//将指定文件移动到回收站
tsh.moveToTrash(path);
hdfs dfs -expunge
直接从回收站的路径剪切到指定路径下即可
//名称配额,简单说就是该目录下文件和目录的总个数的限制
hdfs dfsadmin -setQuota N HDFS目录1 HDFS目录2..... 设置名称配额
hdfs dfsadmin -clrQuota HDFS目录1 HDFS目录2..... 取消名称配额
//空间配额,简单说就是该目录的存储空间限制
hdfs dfsadmin -setSpaceQuota N单位(如:1GB) [-storageType <storagetype>] HDFS目录1 HDFS目录2..... 设置空间配额
hdfs dfsadmin -clrSpaceQuota [-storageType <storagetype>] HDFS目录1 HDFS目录2..... 取消空间配额
其中 storageType 有以下类型:
RAW-DISK:原始物理磁盘
DISK: 分区空间
SSD: 固态硬盘
ARCHIVE:
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
当前标题:九、HDFS安全模式,快照,回收站,配额管理的用法-创新互联
文章URL:https://www.cdcxhl.com/article44/dgdche.html
成都网站建设公司_创新互联,为您提供动态网站、电子商务、定制网站、网站改版、域名注册、网站维护
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联