回收站

HDFS 2.X新特性

情到浓时终转凉″ 提交于 2019-11-27 19:50:24
1 集群间 数据拷贝   1 . scp实现 两个远程主机之间的文件复制   scp -r hello.txt root@hadoop103:/user/atguigu/hello.txt // 推 push   scp -r root@hadoop103:/user/atguigu/hello.txt hello.txt // 拉 pull   scp -r root@hadoop103:/user/atguigu/hello.txt root@hadoop104:/user/atguigu //是 通过本地主机中转实现两个远程主机的文件复制;如果在两个远程主机之间 ssh 没有配置的情况下可以使用该方式。   2 . 采用 distcp 命令 实现 两个 Hadoop 集群之间的递归数据复制 [atguigu@hadoop102 hadoop-2.7.2]$ bin/hadoop distcp hdfs://haoop102:9000/user/atguigu/hello.txt hdfs://hadoop103:9000/user/atguigu/hello.txt 2 小文件存档 3.案例实操 ( 1 ) 需要启动 YARN 进程 [atguigu@hadoop102 hadoop-2.7.2]$ start-yarn.sh ( 2 ) 归档 文件 把/user

清理回收站和恢复数据

不想你离开。 提交于 2019-11-27 15:08:44
查看文件块数命令:hdfs fsck / -blocks HDFS垃圾回收站, 默认是0,单位是分钟,实验设置为1天即1440. core-site.xml <property> <name>fs.trash.interval</name> <value>1440</value> </property> 在线上把垃圾回收站的时间调大到7天 定时执行脚本,shell开发删除回收站 清理垃圾回收站: hdfs dfs -ls /user/root/.Trash hdfs dfs -rm -r /user/root/.Trash/190815070000 恢复数据: 实验: #删除一个文件夹 [root@oldboy-node101 ~]# hdfs dfs -rm -r /tmp/logs/root/logs/logs 19/06/17 20:29:08 INFO fs.TrashPolicyDefault: Namenode trash configuration: Deletion interval = 1440 minutes, Emptier interval = 0 minutes. Moved: 'hdfs://oldboy-node101:9000/tmp/logs/root/logs/logs' to trash at: hdfs://oldboy-node101

Hadoop之回收站

喜欢而已 提交于 2019-11-26 20:31:48
一、回收站简介: 在HDFS里,删除文件时,不会真正的删除,其实是放入回收站/trash,回收站里的文件可以快速恢复。 可以设置一个时间阀值,当回收站里文件的存放时间超过这个阀值或是回收站被清空时,文件才会被彻底删除,并且释放占用的数据块。 二、实例: Hadoop的回收站trash功能默认是关闭的,所以需要在core-site.xml中手动开启。 1、修改core-site.xml,增加: < property > < name > fs.trash.interval </ name > < value > 1440 </ value > < description > Number of minutes between trash checkpoints. If zero, the trash feature is disabled. </ description > </ property > 默认是0,单位是分钟,这里设置为1天。 删除数据rm后,会将数据move到当前文件夹下的.Trash目录。 2、测试 1)、新建目录input hadoop / bin / hadoop fs - mkdir input 2)、上传文件 root @master : / data / soft# hadoop / bin / hadoop fs - copyFromLocal /

centos建立回收站

有些话、适合烂在心里 提交于 2019-11-26 02:08:45
开始 首先在自己家的目录创建一个文件夹用来保存删除的文件.recycling mkdir -p ~/.recycling 修改.bachrc文件 vim ~/.bachrc 在bachrc文件中添加下面内容 alias rm=trash alias rl='ls ~/.recycling' alias ur=undelfile undelfile() { mv -i ~/.recycling/$@ ./ } trash() { mv $@ ~/.recycling/ } cleartrash() { read -p "Clear trash?[n]" confirm [ $confirm == 'y' ] || [ $confirm == 'Y' ] && /usr/bin/rm -rf ~/.recycling/* } 添加之后使用source命令使文件生效 source ~/.bachrc 命令使用方法: #删除一个文件夹,helloworld下面的文件均被移到回收站中 $rm helloworld #删除一个文件 $rm abc.txt #撤销abc.txt $ur abc.txt #撤销helloworld文件夹 $ur helloworld #列出回收站 $rl #清空回收站 cleartrash 来源: 51CTO 作者: 攀岩人生 链接: https://blog