rclone 实现阿里OSS同步到Minio
MINIO数据迁移工具RCLONE
https://www.freesion.com/article/16041337993/
rclone 实现阿里OSS同步到Minio
1、云原生时代的文件同步神器rclone
Rclone是一个命令行程序,用于管理云存储上的文件,支持在不同对象存储、网盘间同步、上传、下载数据。他打包了各大供应商云存储的接口提供统一的访问界面。rclone支持40多种云存储产品,包括对象存储、企业和消费者文件存储、服务以及标准传输协议。
包括Dropbox、Box、Onedrive、Gdrive、Mega、S3、MINIO、Alioss等在内的主流网盘中的各类资源,同时实用的挂载功能能够把网盘挂载到本地(OpenVZ架构的VPS不支持挂载)服务于Aria2、CloudTorrent等下载工具以及FileBrowser等私人网盘工具。
2、下载安装rclone
#下载地址,如果慢,可以直接下载到本地再上传linux
wget https://downloads.rclone.org/rclone-current-linux-amd64.zip
# 解压
unzip rclone-current-linux-amd64.zip
# 授权
chmod 777 ./rclone-*/rclone
# 复制命令到bin
cp ./rclone-*/rclone /usr/bin/
# 删除目录
rm -rf ./rclone-*
3、配置数据源参数
rclone config
输入之后可以按照提示配置参数,之后生成一个配置文件,可以直接修改
/root/.config/rclone/rclone.conf
我的配置文件:
[myminio] #这个名字可以自定义
type = s3 #类型是s3
provider = Minio #供应商是Minio
env_auth = false
access_key_id = xxxx #Minio安装时配置的账号
secret_access_key = xxxxxx #Minio安装时配置的密码
region = cn-east-1
endpoint = http://ip:9000 #Minio 服务API的地址(不是控制台的地址)
[aliyunoss]
type = s3 #类型是s3
provider = Alibaba #供应商是Alibaba
access_key_id = xxxxxxxxxxxxxx #阿里云控制台获取
secret_access_key = xxxxxxxxxxxxxxxxxxxxxx #阿里云控制台获取
endpoint = oss-cn-shanghai.aliyuncs.com #根据阿里云oss所属地区参照下方对照表
acl = public-read
storage_class = STANDARD
bucket_acl = public-read
阿里云对象存储OSS开通Region和Endpoint对照表
到此就配置好了两个网盘
4、执行同步命令
rclone sync aliyunoss:zboot myminio:zboot
等待执行完成即可,没有报错则表示同步成功,上minio控制台可以看到数据完成同步回来了
5、定时同步
配置定时任务
crontab -e
添加一个定时任务
#定时每分钟执行同步数据,从aliyunoss的zboot桶 到 myminio的zboot桶,并输出异常日志文件
1 * * * * rclone sync aliyunoss:zboot myminio:zboot >> /usr/local/rclone.log 2>&1
重新加载crontab
service crond reload
重启服务
service crond restart
本文是原创文章,采用 CC BY-NC-ND 4.0 协议,完整转载请注明来自 奇怪的阿峰
评论
匿名评论
隐私政策
你无需删除空行,直接评论以获取最佳展示效果